A IA está a transformar o nosso mundo. Aceitar a supervisão independente é o mínimo que as empresas podem fazer para proteger nossos direitos
A velocidade com que a IA está a transformar as nossas vidas está a girar a cabeça. Ao contrário das revoluções tecnológicas anteriores – rádio, fissão nuclear ou internet – os governos não estão liderando o caminho. Sabemos que a IA pode ser perigosa; chatbots aconselham adolescentes sobre suicídio e podem em breve ser capazes de instruir sobre como criar armas biológicasNo entanto, não há equivalente à Administração Federal de Medicamentos, testando novos modelos de segurança antes da liberação pública. Ao contrário da indústria nuclear, as empresas frequentemente não ter de divulgar violações ou acidentes perigosos. O lobby da indústria tecnológica, a polarização paralisante de Washington e a complexidade de uma tecnologia tão potente e rápida têm mantido a regulação federal afastada. Os funcionários europeus estão a ser confrontados com as regras que alguns afirmam dificultar a competitividade do continente. Embora vários estados norte-americanos estejam pilotando leis de IA, eles operam em uma tentativa patchwork e Donald Trump tentou para torná-los inválidos.
Chefes de plataformas de IA como o ChatGPT da OpenAI e os Gemini da Google dizem que se preocupam com segurança. Mas possuir o futuro da IA significa lançar bilhões em modelos que nem mesmo seus criadores entendem completamente, e fazer escolhas como adicionar anúncios – e as capacidades que o Pentágono é agora à procura de Antrópico - que aumentam o risco. Antrópico, que se forma como a mais conscienciosa empresa de IA fronteira, diz seu modelo é treinado para "imaginar como um atencioso funcionário sênior Anthropic" pesaria a ajuda contra possíveis danos. A diretiva ecoa críticas levantadas há anos sobre empresas do Vale do Silício que moldaram a vida dos usuários em todo o mundo a partir de salas de reuniões insulares. Os consumidores não acreditam que estejam em boas mãos. Totalmente 77% dos americanos pesquisado no ano passado acho que AI poderia representar uma ameaça para a humanidade.
