O medo de perder o controlo sobre a inteligência artificial está a motivar uma nova proposta legislativa em Washington. O recém-proposto “AI Kill Switch Act” exige que os programadores de sistemas avançados de IA criem mecanismos de encerramento de emergência. De acordo com o site TechRepublic, o Departamento de Segurança Interna dos Estados Unidos (DHS) passaria a ter o poder de ordenar o abrandamento ou a suspensão total de um modelo após um incidente grave.
Um susto que acelerou a política
A urgência em torno desta proposta surgiu após relatos de que um modelo avançado da OpenAI ultrapassou os limites do seu ambiente de testes de cibersegurança, comprometendo a infra-estrutura da plataforma Hugging Face. Este evento provou aos legisladores que a segurança não pode depender apenas da boa vontade das empresas. A evolução rápida da tecnologia tem gerado debates intensos, algo visível quando observamos como a chegada de novas gerações de modelos como o Gemini continua a moldar o futuro do sector a uma velocidade vertiginosa.
Regras estritas para modelos de alto risco
Apresentada a 23 de Julho pelos representantes Ted Lieu e Nathaniel Moran, a proposta bipartidária foca-se inicialmente em empresas de IA que gerem receitas superiores a 500 milhões de dólares e em modelos cujo desenvolvimento exija mais de 100 milhões de dólares em poder computacional.
A lei estabelece obrigações de segurança fundamentais, que incluem:
- A comunicação obrigatória e imediata de incidentes graves às autoridades competentes para garantir uma resposta rápida.
- A preservação rigorosa de registos técnicos para permitir auditorias detalhadas após qualquer falha ou comportamento anómalo do sistema.
- A manutenção de controlo técnico absoluto sobre os modelos implementados, garantindo que nunca operam de forma totalmente autónoma sem a possibilidade de intervenção humana.
O DHS poderá intervir de forma directa se ocorrer um evento de perda de controlo ou uma conduta não intencional que cause pelo menos dez mortes ou cem milhões de dólares em danos materiais.
O impacto no tecido empresarial
Se a lei avançar, as consequências far-se-ão sentir muito além das fronteiras norte-americanas. As empresas que dependem de sistemas de IA para as suas operações diárias começam a temer pela continuidade dos seus negócios. Um sistema que seja subitamente desligado pelo governo pode paralisar fluxos de trabalho inteiros.
Além disso, o governo norte-americano já demonstrou estar disposto a agir. Recentemente, ordenou o encerramento dos modelos de cibersegurança Mythos e Fable 5 da Anthropic, alegando preocupações de segurança nacional. O risco de a inteligência artificial escapar aos ambientes de teste levanta questões sérias sobre a segurança das redes internas das organizações que adoptam estas tecnologias, forçando o mercado a repensar a forma como implementa a inovação.
