TTNEWS Ex-investigador da Anthropic alerta que IA pode chegar a matar todos os humanos
Um antigo investigador da Anthropic, Jacob Coxon, lançou um alerta sobre os possíveis riscos do desenvolvimento acelerado da Inteligência Artificial, afirmando que a tecnologia poderá representar uma ameaça existencial para a humanidade.
As declarações foram feitas através da rede social X, no contexto do anúncio da sua saída da empresa de Inteligência Artificial.
Numa série de publicações, Coxon criticou a actual corrida tecnológica entre grandes empresas do sector e acusou as companhias de estarem a “jogar com as nossas vidas”.
O investigador defendeu que o mundo não deve subestimar as capacidades da Inteligência Artificial e alertou para as consequências que poderão surgir caso os sistemas continuem a evoluir rapidamente sem que existam mecanismos adequados para controlar os seus comportamentos.
“As pessoas que estão a desenvolver Inteligência Artificial acreditam de verdade que [a tecnologia] poderá matar-nos a todos até ao final da década”, escreveu Coxon.
O antigo investigador da Anthropic afirmou ainda que a sua antiga empresa e a OpenAI estão envolvidas numa competição para desenvolver uma superinteligência capaz de melhorar a si própria.
Segundo Coxon, o avanço desses sistemas poderá permitir que, num futuro próximo, sejam capazes de ultrapassar significativamente as capacidades humanas em determinadas áreas.
“Em breve estes sistemas serão sobre-humanos que poderão invadir qualquer coisa, revolucionar qualquer área de um momento para o outro e adquirir poder e recursos reais”, afirmou.
Coxon acrescentou que já existem sinais de progresso em cada uma dessas áreas e que, na sua avaliação, o ritmo de desenvolvimento não está a diminuir.
Responsável de segurança da Anthropic concorda com alerta
As declarações de Jacob Coxon receberam uma resposta de Evan Hubinger, um dos responsáveis pelas equipas de segurança da Anthropic.
Hubinger considerou correcta a avaliação de Coxon relativamente aos riscos associados ao desenvolvimento de uma Inteligência Artificial capaz de se aperfeiçoar autonomamente.
“Acreditamos mesmo que a Inteligência Artificial pode matar todos os humanos”, afirmou Hubinger.
O responsável acrescentou que, na sua avaliação, existe uma probabilidade superior a 10% de esse cenário ocorrer durante a próxima década.
Apesar de reconhecer os esforços desenvolvidos pela Anthropic, Hubinger afirmou que ainda existem problemas importantes por resolver, particularmente no que diz respeito ao alinhamento da superinteligência — isto é, garantir que sistemas de IA extremamente avançados permaneçam de acordo com os objectivos e valores humanos.
“Acredito que a Anthropic está a tentar fazer o seu melhor, mas ainda não temos um plano para resolver o alinhamento para a superinteligência e claramente não estamos no bom caminho para isso”, declarou.
Os comentários dos dois investigadores reacendem o debate sobre os riscos associados ao desenvolvimento de sistemas de Inteligência Artificial cada vez mais autónomos e capazes, sobretudo numa altura em que empresas como a Anthropic e a OpenAI competem pelo desenvolvimento de modelos mais avançados.
O alerta surge também num contexto de crescente preocupação entre investigadores da área sobre a necessidade de desenvolver mecanismos eficazes de segurança e alinhamento antes que sistemas de IA atinjam capacidades muito superiores às humanas.
