O presidente-executivo da Microsoft, Satya Nadella, defendeu neste domingo (11) a adoção de checagens independentes e intervenção humana para garantir a segurança no uso de inteligência artificial.
Segundo o executivo, os modelos atuais de IA enfrentam limitações para rastrear e justificar de maneira completa como os dados de treinamento produzem determinadas respostas.
Para conter riscos, Nadella propôs desvincular a capacidade decisória dos sistemas automatizados dos mecanismos que autorizam ações e liberam acessos a informações corporativas.
O dirigente recomendou ainda que as companhias passem a tratar ferramentas de inteligência artificial, públicas ou privadas, como potenciais ameaças internas à segurança digital.
Entre as salvaguardas sugeridas estão a implementação de auditorias externas, registros invioláveis de tarefas e botões de interrupção para desligar sistemas autônomos.

