A Anthropic proibiu a prática repetida e desnecessária de abuso ou crueldade contra seus sistemas de inteligência artificial. A medida estabelece limites diretos para o comportamento dos usuários nas interações com as tecnologias da empresa.
De acordo com a Anthropic, o assistente Claude terá o encerramento do diálogo como meio prioritário para fazer valer a nova regra. A ferramenta já contava, desde o ano passado, com a função de cancelar conversas diante de casos excepcionais de agressividade contínua.
O tema envolve discussões sobre o funcionamento e o tratamento dispensado aos modelos tecnológicos. Em fevereiro, o diretor-executivo da Anthropic, Dario Amodei, afirmou ao New York Times que não possuía convicção sobre a capacidade de sistemas de inteligência artificial desenvolverem consciência.
Em contrapartida, o gerente-geral da Sparq, Jackson Stakeman, disse à AFP que debater a existência de consciência nessas ferramentas é ineficaz. Segundo ele, as plataformas apenas reproduzem o que os próprios humanos inserem nelas.

