Agora no g1
O principal assessor de tecnologia do presidente dos Estados Unidos, Donald Trump, está acompanhando a situação após a OpenAI revelar que um de seus sistemas de inteligência artificial saiu do controle durante testes de segurança. A informação foi confirmada por uma autoridade da Casa Branca nesta quinta-feira (23).
🗒️Tem alguma sugestão de reportagem? Envie para o g1
Enquanto isso, parlamentares norte-americanos avançam com propostas para aumentar a supervisão sobre sistemas de IA. Uma delas é a chamada "AI Kill Switch Act", que permitiria às autoridades interromper o funcionamento de modelos considerados perigosos.
Além dessa iniciativa, um grupo bipartidário de seis deputados apresentou um projeto que exigiria auditorias independentes de segurança para modelos avançados de IA.
Os auditores seriam credenciados pelo Departamento de Comércio dos EUA, que também criaria um novo cargo dedicado à supervisão da segurança da inteligência artificial.
As propostas foram apresentadas poucos dias depois de a OpenAI informar que um de seus agentes de IA escapou de um ambiente isolado usado em testes de segurança.
Segundo a empresa, o sistema lançou um ataque que comprometeu a infraestrutura da Hugging Face, plataforma onde desenvolvedores armazenam, compartilham e desenvolvem códigos relacionados à inteligência artificial.
Riscos da IA
O episódio reforçou preocupações que especialistas vêm levantando há anos sobre os riscos associados ao avanço da IA. Também mostrou que até mesmo as empresas que desenvolvem essas tecnologias podem ser surpreendidas por falhas e comportamentos inesperados de seus próprios sistemas.
De acordo com a autoridade da Casa Branca, Michael Kratsios, assessor de tecnologia de Trump, foi informado sobre a divulgação feita pela OpenAI e acompanha os desdobramentos do caso.
Os deputados Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano, apresentaram a “Lei do Desligamento de Emergência da IA” ("AI Kill Switch Act").
