Byline

CEO da Microsoft defende controle humano e auditoria para IA

Satya Nadella sugere tratar ferramentas de inteligência artificial como potenciais ameaças corporativas

O presidente-executivo da Microsoft, Satya Nadella, defendeu neste domingo (11) a adoção de checagens independentes e intervenção humana para garantir a segurança no uso de inteligência artificial.

Segundo o executivo, os modelos atuais de IA enfrentam limitações para rastrear e justificar de maneira completa como os dados de treinamento produzem determinadas respostas.

Para conter riscos, Nadella propôs desvincular a capacidade decisória dos sistemas automatizados dos mecanismos que autorizam ações e liberam acessos a informações corporativas.

O dirigente recomendou ainda que as companhias passem a tratar ferramentas de inteligência artificial, públicas ou privadas, como potenciais ameaças internas à segurança digital.

Entre as salvaguardas sugeridas estão a implementação de auditorias externas, registros invioláveis de tarefas e botões de interrupção para desligar sistemas autônomos.

Voltar para Política