Delegados de 28 países, incluindo os EUA e a China, concordaram na quarta-feira em trabalhar juntos para conter os riscos potencialmente “catastróficos” representados pelos avanços galopantes na inteligência artificial.
O primeiro internacional Cúpula de Segurança de IArealizado em uma antiga base de espionagem de decifração de códigos perto de Londres, focado em IA de “fronteira” de ponta que alguns cientistas alertam que poderia representar um risco para a própria existência da humanidade.
O primeiro-ministro britânico, Rishi Sunak, disse que a declaração foi “uma conquista histórica que vê as maiores potências mundiais de IA concordarem sobre a urgência por trás da compreensão dos riscos da IA – ajudando a garantir o futuro a longo prazo dos nossos filhos e netos”.
Mas a vice-presidente dos EUA, Kamala Harris, instou o Reino Unido e outros países a irem mais longe e mais rapidamente, sublinhando as transformações que a IA já está a trazer e a necessidade de responsabilizar as empresas tecnológicas – inclusive através de legislação.
Num discurso na Embaixada dos EUA, Harris disse que o mundo precisa de começar a agir agora para abordar “todo o espectro” dos riscos da IA, e não apenas ameaças existenciais, como ataques cibernéticos massivos ou armas biológicas formuladas por IA.
“Existem ameaças adicionais que também exigem a nossa acção, ameaças que actualmente estão a causar danos e que, para muitas pessoas, também parecem existenciais”, disse ela, citando um idoso que teve o seu plano de saúde cancelado devido a um algoritmo de IA defeituoso ou uma mulher ameaçada por um parceiro abusivo com fotos profundamente falsas.
A Cimeira de Segurança da IA é um trabalho de amor para Sunak, um ex-banqueiro amante da tecnologia que deseja que o Reino Unido seja um centro de inovação informática e enquadrou a cimeira como o início de uma conversa global sobre o desenvolvimento seguro da IA.
Harris deverá participar na cimeira na quinta-feira, juntando-se a responsáveis governamentais de mais de duas dezenas de países, incluindo Canadá, França, Alemanha, Índia, Japão, Arábia Saudita – e China, convidados devido aos protestos de alguns membros do Partido Conservador, no governo de Sunak.
Conseguir que as nações assinassem o acordo, apelidado de Declaração de Bletchley, foi uma conquista, embora seja escasso nos detalhes e não proponha uma forma de regular o desenvolvimento da IA. Os países comprometeram-se a trabalhar no sentido de um “acordo e responsabilidade partilhados” sobre os riscos da IA e a realizar uma série de outras reuniões. A Coreia do Sul realizará uma mini cimeira virtual sobre IA dentro de seis meses, seguida de uma presencial em França, daqui a um ano.
O vice-ministro de Ciência e Tecnologia da China, Wu Zhaohui, disse que a tecnologia de IA é “incerta, inexplicável e carece de transparência”.
“Isso traz riscos e desafios em ética, segurança, privacidade e justiça. A sua complexidade está a emergir”, disse ele, observando que o presidente chinês, Xi Jinping, lançou no mês passado a Iniciativa Global para a Governação da IA do país.
“Apelamos à colaboração global para partilhar conhecimento e disponibilizar tecnologias de IA ao público em termos de código aberto”, disse ele.
O CEO da Tesla, Elon Musk, também está programado para discutir IA com Sunak em uma conversa transmitida ao vivo na noite de quinta-feira. O bilionário da tecnologia estava entre os que assinaram uma declaração no início deste ano, alertando sobre os perigos que a IA representa para a humanidade.
A presidente da Comissão Europeia, Ursula von der Leyen, o secretário-geral das Nações Unidas, Antonio Guterres, e executivos de empresas de inteligência artificial dos EUA, como a Anthropic, a DeepMind do Google e a OpenAI, e influentes cientistas da computação como Yoshua Bengio, um dos “padrinhos” da IA, também participam. a reunião em Bletchley Park, uma antiga base secreta para decifradores de códigos da Segunda Guerra Mundial que é vista como o berço da computação moderna.
Os participantes disseram que o formato da reunião a portas fechadas tem promovido um debate saudável. Sessões informais de networking estão ajudando a construir confiança, disse Mustafa Suleyman, CEO da Inflection AI.
Entretanto, nas discussões formais “as pessoas têm conseguido fazer declarações muito claras, e é aí que se vêem divergências significativas, tanto entre países do norte como do sul (e) países que são mais a favor do código aberto e menos a favor do código aberto. fonte”, disse Suleyman aos repórteres.
Os sistemas de IA de código aberto permitem que pesquisadores e especialistas descubram rapidamente problemas e os resolvam. Mas a desvantagem é que, uma vez lançado um sistema de código aberto, “qualquer pessoa pode usá-lo e ajustá-lo para fins maliciosos”, disse Bengio à margem da reunião.
“Existe essa incompatibilidade entre código aberto e segurança. Então, como lidamos com isso?
Somente os governos, e não as empresas, podem manter as pessoas protegidas dos perigos da IA, disse Sunak na semana passada. No entanto, ele também apelou contra a pressa em regulamentar a tecnologia de IA, dizendo que primeiro ela precisa ser totalmente compreendida.
Em contraste, Harris sublinhou a necessidade de abordar o aqui e agora, incluindo “os danos sociais que já estão a acontecer, como o preconceito, a discriminação e a proliferação de desinformação”.
Ela apontou para a ordem executiva do presidente Biden esta semana, que estabelece salvaguardas de IA, como prova de que os EUA estão a liderar pelo exemplo no desenvolvimento de regras para a inteligência artificial que funcionam no interesse público.
Harris também encorajou outros países a assinarem um compromisso apoiado pelos EUA de se aterem ao uso “responsável e ético” da IA para fins militares.
“O presidente Biden e eu acreditamos que todos os líderes… têm o dever moral, ético e social de garantir que a IA seja adotada e avançada de uma forma que proteja o público de danos potenciais e garanta que todos possam desfrutar de seus benefícios”, ela disse.