PASSATEMPOS
Descubra os novos desafios da SÁBADO
O fundador da Microsoft entra para o coro dos que pedem mais regulamentação para evitar uma catástrofe humanitária às mãos da IA.
Bill Gates, fundador da Microsoft, empresa que tem investido amplamente em inteligência artificial (IA) nos últimos anos, alertou que esta é uma ferramenta “suficientemente poderosa” para dizimar uma parte substancial da humanidade calculando mesmo que possa ser responsável pela morte de mais de mil milhões de pessoas - ou seja, mais do que a população total da Europa.
“Nunca houve uma arma tão poderosa como a combinação de pessoas com más intenções a utilizar as mais recentes ferramentas de inteligência artificial", afirmou o fundador da Microsoft em entrevista ao programa Meet the Press, da NBC, que será transmitido este fim de semana e citado pela agência Bloomberg. "A IA é certamente poderosa o suficiente para provocar eventos que causem milhares de milhões de mortes”, acrescentou.
Ainda durante a entrevista, Gates afirmou que não basta a autorregulação dos criadores de ferramentas de IA e é preciso que as autoridades governamentais participem na discussão sobre como implementar "medidas de salvaguarda e monitorização" da mesma.
As declarações de Gates surgem num contexto em que a segurança da humanidade tem estado em discussão na comunidade que mais pensa e debate a IA. Jacob Coxon, investigador que passou os últimos três anos a trabalhar no desenvolvimento de modelos de IA na Anthropic e na OpenAI, escreveu na rede social X que tinha pedido a demissão da Anthropic, acusando as empresas de estarem a "avançar a todo o vapor em direção a uma superinteligência capaz de se auto aperfeiçoar e que estão a apostar as nossas vidas". "Em breve, estes serão sistemas sobre-humanos, capazes de invadir qualquer sistema, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais", vaticinava Coxon.
Esta mensagem levou a discussão (e gozo) no X. Mas uma publicação em específico veio dar credibilidade à denúncia. Evan Hubinger, investigador sénior da Anthropic, escreveu em resposta: "O Jacob está certo. Nós acreditamos mesmo que a IA pode matar todos os humanos! Eu pessoalmente acredito que há uma probabilidade superior a 10% que possa acontecer esta década. E acredito que a Anthropic está a fazer o melhor que sabe, mas ainda não temos um plano para resolver o alinhamento com a superinteligência e ainda não estamos no caminho certo para chegar lá". Esta declaração do investigador responsável por manter a IA segura na Anthropic foi feita enquanto a empresa procura lançar uma oferta pública inicial (IPO, na sigla em inglês) que pode valorizar a empresa em um bilião de dólares (o equivalente a 866.560.000.000 euros).
Sejam os 10% uma realidade ou apenas um cenário alarmista, a verdade é que o presidente executivo (CEO) da Anthropic, Dario Amodei, apelou este sábado a um abrandamento no desenvolvimento da inteligência artificial, sublinhando ser necessário um maior controlo e propôs um plano com três etapas para construir uma IA a um ritmo mais equilibrado, garantindo a segurança, ao mesmo tempo que se retiram os benefícios.
A primeira etapa exige o compromisso de cada empresa de IA de fornecer um acesso contínuo a uma equipa de avaliadores externos, que vão verificar a adesão às práticas e à segurança e reportar incidentes.
Já na segunda etapa, as empresas de IA de topo em países democráticos devem coordenar-se para estabelecer padrões de segurança comuns e limites ao ritmo do progresso.
Na última etapa, os governos democráticos e autoritários devem coordenar-se, "na medida do possível, levando a sério os desafios de verificar o cumprimento destas políticas".
