Foto: Imprensa Canadense
Uma máquina Enigma é exibida no museu Bletchley Park, em Buckinghamshire, Inglaterra, onde uma cúpula de dois dias focada em IA de fronteira atrairá 100 funcionários de 28 países.
Chatbots como o ChatGPT impressionaram o mundo com a sua capacidade de escrever discursos, planear férias ou manter uma conversa tão boa ou até melhor do que os humanos, graças aos sistemas de inteligência artificial de última geração. Agora, a IA de fronteira tornou-se a última palavra da moda à medida que crescem as preocupações de que a tecnologia emergente tenha capacidades que podem pôr a humanidade em perigo.
Todos, desde o governo britânico até aos principais investigadores e até mesmo as próprias grandes empresas de IA, estão a dar o alarme sobre os perigos ainda desconhecidos da IA de fronteira e a apelar a salvaguardas para proteger as pessoas das suas ameaças existenciais.
O debate chega ao auge na quarta-feira, quando o primeiro-ministro britânico, Rishi Sunak, organiza uma cimeira de dois dias focada na IA de fronteira. Espera-se que atraia um grupo de cerca de 100 funcionários de 28 países, incluindo a vice-presidente dos EUA, Kamala Harris, a presidente da Comissão Europeia, Ursula von der Leyen, e executivos das principais empresas de inteligência artificial dos EUA, incluindo OpenAI, Deepmind do Google e Anthropic.
O local é Bletchley Park, uma antiga base secreta para decifradores de códigos da Segunda Guerra Mundial liderados por Alan Turing. A propriedade histórica é vista como o berço da computação moderna porque foi onde a equipe de Turing decifrou o código Enigma da Alemanha nazista usando o primeiro computador digital programável do mundo.
Num discurso na semana passada, Sunak disse que apenas os governos – e não as empresas de IA – podem manter as pessoas protegidas dos riscos da tecnologia. No entanto, ele também observou que a abordagem do Reino Unido “é não se apressar em regulamentar”, ao mesmo tempo que delineou uma série de ameaças que parecem assustadoras, como a utilização da IA para fabricar mais facilmente armas químicas ou biológicas.
“Precisamos levar isso a sério e começar a nos concentrar em tentar superar o problema”, disse Jeff Clune, professor associado de ciência da computação na Universidade da Colúmbia Britânica, com foco em IA e aprendizado de máquina.
Clune estava entre um grupo de pesquisadores influentes que escreveu um artigo na semana passada pedindo aos governos que fizessem mais para gerenciar os riscos da IA. É o mais recente de uma série de avisos terríveis de magnatas da tecnologia como Elon Musk e do CEO da OpenAI, Sam Altman, sobre a tecnologia em rápida evolução e as formas díspares como a indústria, os líderes políticos e os investigadores veem o caminho a seguir quando se trata de controlar os riscos e a regulamentação. .
Está longe de ser certo que a IA irá exterminar a humanidade, disse Clune, “mas há riscos e chances suficientes de ocorrer. E precisamos mobilizar a atenção da sociedade para tentar resolvê-lo agora, em vez de esperar que o pior cenário aconteça.”
Um dos grandes objetivos de Sunak é chegar a um acordo sobre um comunicado sobre a natureza dos riscos da IA. Ele também está revelando planos para um Instituto de Segurança de IA que avaliará e testará novos tipos de tecnologia e proporá a criação de um painel global de especialistas, inspirado no painel de mudanças climáticas da ONU, para compreender a IA e elaborar um relatório sobre o “Estado da Ciência da IA”. .
A cimeira reflecte a vontade do governo britânico de acolher reuniões internacionais para mostrar que não ficou isolado e que ainda pode liderar no cenário mundial após a sua saída da União Europeia há três anos.
O Reino Unido também quer reivindicar a sua posição numa questão política controversa, em que tanto os EUA como as 27 nações da UE estão a tomar medidas.
Bruxelas está dando os retoques finais no que deverá ser a primeira regulamentação abrangente de IA do mundo, enquanto o presidente dos EUA, Joe Biden, assinou uma ordem executiva abrangente na segunda-feira para orientar o desenvolvimento da IA, com base em compromissos voluntários assumidos por empresas de tecnologia.
A China, que juntamente com os EUA é uma das duas potências mundiais da IA, foi convidada para a cimeira, embora Sunak não pudesse dizer com “100% de certeza” que representantes de Pequim comparecerão.
O documento assinado por Clune e mais de 20 outros especialistas, incluindo dois apelidados de “padrinhos” da IA – Geoffrey Hinton e Yoshua Bengio – apelou aos governos e às empresas de IA para tomarem medidas concretas, como gastar um terço da sua investigação e desenvolvimento. recursos para garantir o uso seguro e ético da IA autônoma avançada.
Frontier AI é um resumo dos sistemas mais recentes e poderosos que vão até o limite das capacidades da IA. Eles são baseados em modelos básicos, que são algoritmos treinados em uma ampla gama de informações extraídas da Internet para fornecer uma base de conhecimento geral, mas não infalível.
Isso torna os sistemas de IA de fronteira “perigosos porque não têm conhecimento perfeito”, disse Clune. “As pessoas presumem e pensam que têm um conhecimento tremendo e isso pode causar problemas.”
A reunião, porém, tem enfrentado críticas de que está demasiado preocupada com perigos distantes.
“O foco da cúpula é, na verdade, um pouco estreito demais”, disse Francine Bennett, diretora interina do Instituto Ada Lovelace, um grupo de pesquisa política em Londres com foco em IA.
“Corremos o risco de simplesmente esquecer o conjunto mais amplo de riscos e segurança” e os algoritmos que já fazem parte da vida cotidiana, disse ela em um painel na Chatham House na semana passada.
Deb Raji, pesquisadora da Universidade da Califórnia, Berkeley, que estudou viés algorítmico, apontou problemas com sistemas já implantados no Reino Unido, como sistemas de reconhecimento facial da polícia que tinham uma taxa de detecção falsa muito maior para pessoas negras e um algoritmo que falhou um exame do ensino médio.
A cimeira é uma “oportunidade perdida” e marginaliza as comunidades e os trabalhadores mais afetados pela IA, afirmaram mais de 100 grupos da sociedade civil e especialistas numa carta aberta a Sunak.
Os céticos dizem que o governo do Reino Unido estabeleceu os objetivos da sua cimeira demasiado baixos, dado que a regulamentação da IA não estará na agenda, concentrando-se, em vez disso, no estabelecimento de “proteções”.
O apelo de Sunak para não se apressar na regulamentação é uma reminiscência “da mensagem que ouvimos de muitos representantes corporativos nos EUA”, disse Raji. “E, portanto, não estou surpreso que isso também esteja afetando o que eles podem estar dizendo às autoridades do Reino Unido.”
As empresas de tecnologia não deveriam estar envolvidas na elaboração de regulamentações porque tendem a “subestimar ou minimizar” a urgência e toda a gama de danos, disse Raji. Eles também não estão tão abertos a apoiar leis propostas “que possam ser necessárias, mas que possam efetivamente pôr em perigo os seus resultados financeiros”, disse ela.
DeepMind e OpenAI não responderam aos pedidos de comentários. A Anthropic disse que os cofundadores Dario Amodei e Jack Clark estariam presentes.
A Microsoft disse em um blog que espera “os próximos passos do Reino Unido na convocação da cúpula, avançando em seus esforços em testes de segurança de IA e apoiando uma maior colaboração internacional na governança de IA”.
O governo insiste que terá a combinação certa de participantes do governo, da academia, da sociedade civil e das empresas.
O Institute for Public Policy Research, um think tank de centro-esquerda do Reino Unido, disse que seria um “erro histórico” se a indústria tecnológica fosse deixada a auto-regular-se sem supervisão governamental.
“Os reguladores e o público desconhecem, em grande parte, a forma como a IA está a ser implementada na economia”, afirmou Carsten Jung, economista sénior do grupo. “Mas a autorregulação não funcionou para as empresas de redes sociais, não funcionou para o setor financeiro e não funcionará para a IA.”
