INTELIGÊNCIA ARTIFICIAL ULTRAPASSARÁ OS HUMANOS, DIZ FUNCIONÁRIO DA OPEN AI

  

Inteligência artificial ultrapassará os humanos em alguns anos — Foto: Freepik

Inteligência artificial ultrapassará os humanos em alguns anos, diz ex-funcionário da OpenAI

Daniel Kokotajlo, que trabalhou na empresa até o ano passado, publicou uma série de previsões sobre a evolução

Por La Nacion — Buenos Aires

17/04/2025 04h00  Atualizado há 4 semanas

O ano é 2027. Poderosos sistemas de inteligência artificial estão se tornando mais inteligentes que os humanos e estão causando estragos na ordem mundial. Um grupo de espiões chineses roubou segredos de IA dos EUA, e a Casa Branca está correndo para uma retaliação. Em um importante laboratório de IA, vários engenheiros ficam alarmados ao descobrir que seus modelos começaram a enganá-los e podem se rebelar.

O ano é 2027. Poderosos sistemas de inteligência artificial estão se tornando mais inteligentes que os humanos e estão causando estragos na ordem mundial. Um grupo de espiões chineses roubou segredos de IA dos EUA, e a Casa Branca está correndo para uma retaliação. Em um importante laboratório de IA, vários engenheiros ficam alarmados ao descobrir que seus modelos começaram a enganá-los e podem se rebelar.

O projeto é liderado por Daniel Kokotajlo, um ex-pesquisador da OpenAI que deixou a empresa no ano passado devido a preocupações com algumas ações imprudentes.

Durante seu tempo na OpenAI, onde fez parte da equipe de governança, Kokotajlo escreveu relatórios internos detalhados sobre possíveis desenvolvimentos na corrida em direção à inteligência artificial geral — ou AGI — um termo vago que se refere a máquinas com inteligência semelhante à humana. Depois de deixar a empresa, ele fez uma parceria com Eli Lifland, um pesquisador de IA que fez previsões precisas sobre eventos mundiais, e eles começaram a tentar prever a próxima onda de IA.

Visões concorrentes

O resultado é “AI 2027”, um relatório e site publicado esta semana que usa um relato fictício detalhado para expor o que pode acontecer se os sistemas de IA ultrapassarem a inteligência humana, algo que os autores preveem que acontecerá nos próximos dois a três anos.

“Prevemos que as IAs continuarão a melhorar até se tornarem agentes totalmente autônomos, melhores que os humanos em todos os aspectos, por volta do final de 2027”, disse Kokotajlo em uma entrevista recente.

Especulações sobre IA abundam atualmente. O fervor da IA ​​tomou conta de São Francisco, e o cenário tecnológico da Bay Area se tornou uma coleção de tribos antagônicas e seitas dissidentes, cada uma convencida de que sabe o que o futuro reserva.

Algumas previsões de IA são expressas em manifestos, como “Máquinas de graça amorosa”, um ensaio de 14.000 palavras escrito no ano passado por Dario Amodei, presidente executivo da Anthropic, ou “Consciência situacional”, um relatório do ex-pesquisador da OpenAI Leopold Aschenbrenner que foi amplamente lido nos círculos políticos.

O Projeto AI Futures optou por um cenário hipotético que é, em essência, uma obra de ficção científica criada a partir de pesquisas rigorosas usando seus melhores palpites sobre o futuro como pontos da trama. O grupo trabalhou por quase um ano para refinar centenas de previsões de IA. Eles então contrataram um escritor, Scott Alexander — autor do blog Astral Codex Ten — para ajudá-los a traduzir suas previsões em uma narrativa.

“Pegamos o que achávamos que aconteceria e tentamos criar uma narrativa convincente”, disse Lifland.

Críticos dessa abordagem podem argumentar que histórias fictícias sobre IA assustam as pessoas em vez de educá-las. Sem dúvida, também haverá especialistas em IA que se oporão à afirmação central do grupo de que a inteligência artificial superará a inteligência humana. Ali Farhad , CEO do Allen Institute for Artificial Intelligence, um laboratório de IA em Seattle, preparou uma revisão do relatório “AI 2027” na qual indicou que este não deixou uma impressão positiva nele.

“Sou totalmente a favor de projeções e previsões, mas essa previsão não parece ser baseada em evidências científicas ou na evolução real da IA ​​neste momento”, disse ele.

Não há dúvida de que algumas das opiniões do grupo são extremas. (Por exemplo, Kokotajlo me disse no ano passado que ele achava que havia 70% de probabilidade de que a IA destruísse ou causasse danos catastróficos à humanidade.) Além disso, tanto Kokotajlo quanto Lifland têm laços com o altruísmo eficaz, outro movimento filosófico popular entre os técnicos que vem emitindo alertas terríveis sobre a IA há anos.

No entanto, também vale a pena notar que algumas das maiores empresas do Vale do Silício estão fazendo planos para um mundo além da AGI, e muitas previsões anteriores sobre IA que pareciam loucas — como a visão de que as máquinas passariam no teste de Turing, um experimento mental que determina se uma máquina pode parecer se comunicar como um humano — se tornaram realidade.

Em 2021, um ano antes do lançamento do ChatGPT, Kokotajlo escreveu uma postagem de blog intitulada “Como será 2026”, descrevendo sua visão para o progresso potencial dos sistemas de IA. Várias de suas previsões se mostraram proféticas, convencendo-o de que esse tipo de previsão é valioso e que ele é bom nisso.

“É uma maneira elegante e prática de comunicar seu ponto de vista a outras pessoas”, comentou.

O caminho para a inteligência artificial superior

Na semana passada, Kokotajlo e Lifland me convidaram para seu escritório — uma pequena sala em um espaço de coworking em Berkeley chamado Constellation, onde operam várias organizações de segurança de IA — para me mostrar como eles trabalham.

Kokotajlo, vestindo uma jaqueta militar bege, pegou um marcador e escreveu quatro abreviações em um grande quadro branco: SC > SAR > SIAR > ASI. Ele me explicou que cada um representava um marco no desenvolvimento da IA.

Primeiro, ele disse, se as tendências atuais continuarem, a IA será um programador sobre-humano no início de 2027. Então, em meados de 2027, será um pesquisador de IA sobre-humano, um agente autônomo capaz de supervisionar equipes de programadores de IA e fazer novas descobertas. Então, no final de 2027 ou início de 2028, ele se tornará um pesquisador de IA superinteligente: uma inteligência artificial mais hábil do que nós em criar IA avançada e capaz de automatizar sua própria pesquisa e desenvolvimento, sendo essencialmente capaz de criar versões mais inteligentes de si mesmo. Ele indicou que, nesse ponto, em breve teremos superinteligência artificial (ASI), e é impossível prever o que acontecerá a seguir.

Se tudo isso parece fantasia… é porque é. Nada remotamente parecido com o que Kokotajlo e Lifland preveem é possível com as ferramentas de IA atuais, que mal conseguem pedir um burrito no DoorDash.

Mas eles estão confiantes de que os pontos cegos diminuirão rapidamente à medida que os sistemas de IA se tornarem mais eficientes na codificação e a pesquisa e o desenvolvimento de IA acelerarem. Seu relatório se concentra na OpenBrain, uma empresa fictícia de IA que está construindo um poderoso sistema de IA conhecido como Agente-1. (Eles decidiram não destacar uma empresa de IA específica, mas criar uma que reunisse os principais laboratórios de IA dos EUA.)

À medida que o Agente 1 melhora nas tarefas de codificação, ele começa a automatizar grande parte do trabalho de engenharia na OpenBrain, permitindo que a empresa se mova mais rápido e ajudando a desenvolver o Agente 2, um pesquisador de IA ainda mais capaz. No final de 2027, no final da narrativa hipotética, o Agente 4 está fazendo um ano de progresso na pesquisa de IA a cada semana e está ameaçando se rebelar.

Embora eu concorde com os autores de “AI 2027” que sistemas poderosos de IA estarão disponíveis em breve , não estou convencido de que seja possível para programadores de IA sobre-humanos adquirirem automaticamente as outras habilidades necessárias para avançar em direção à inteligência geral. Além disso, sou cauteloso com previsões que pressupõem que o progresso da IA ​​será exponencial e tranquilo, sem grandes gargalos ou obstáculos ao longo do caminho.

Entretanto, mesmo que eu discorde de algumas das previsões específicas, acho que vale a pena fazer esse tipo de previsão. Se uma IA realmente poderosa estiver próxima, todos nós teremos que começar a imaginar alguns futuros muito estranhos.

Fonte:https://oglobo.globo.com/economia/tecnologia/noticia/2025/04/17/inteligencia-artificial-ultrapassara-os-humanos-em-alguns-anos-diz-ex-funcionario-da-openai.ghtml