A Anthropic atualizou seus termos de serviço para proibir abusos contra seus sistemas e autorizar o assistente Claude a encerrar conversas com usuários em casos de ofensas ou práticas cruéis.
As novas diretrizes entram em vigor no dia 12 de novembro. A empresa informou que o corte do diálogo será aplicado apenas diante de agressões contínuas e descabidas, sem impedir que os usuários façam críticas ao sistema.
Em comunicado em sua página, a desenvolvedora afirmou que busca adotar intervenções simples para resguardar o bem-estar dos modelos caso eles alcancem algum tipo de enquadramento moral.
A mudança ocorre em meio a divergências no setor sobre a capacidade dos sistemas. O diretor-executivo da Anthropic, Dario Amodei, já afirmou ao The New York Times que não descarta a possibilidade de sistemas inteligentes desenvolverem consciência.
Por outro lado, o chefe de inteligência artificial da Microsoft, Mustafa Suleyman, sustentou em ensaio publicado em setembro que as ferramentas não possuem consciência nem capacidade de sentir dor ou sofrimento.


