Byline

Avaliadores de IA devem ter independência, diz OpenAI

Dario Amodei já havia defendido que relatórios fossem publicados sem controle editorial.

Dario Amodei, da Anthropic, defendeu em setembro que avaliadores externos de inteligência artificial devem publicar suas conclusões sem interferência de controle editorial. Sua posição é defendida também pela OpenAI.

A empresa afirmou que o trabalho de avaliação deve contar com independência editorial. Em sua visão, não se buscou o poder de aprovar na íntegra os textos dos relatórios feitos pelos avaliadores.

A independência dos avaliadores é vista como condição para o público confiar nas informações sobre os riscos da IA, segundo Marc Warner, fundador e CEO da Faculty AI. Ele disse que fiscais só servem se a população puder ter fé no que eles contam.

Para Rumman Chowdhury, diretora do programa de Ética e Sociedade na inteligência artificial da Harvard’s Center for Research on Computation and Society, a ausência de normas pode permitir que as companhias dominem o acesso dos avaliadores, influenciando assim o conteúdo das avaliações.

Voltar para Economia