Inteligência Artificial no futuro: Desenvolvimento autônomo e riscos geopolíticos.

IA com capacidade independente atingindo nível de autonomia apresenta risco significativo na segurança global devido aos avanços em modelos de linguagem.

O especialista em Inteligência Artificial Dario Amodei, CEO da startup Anthropic e ex-vice-presidente de Pesquisa da OpenAI, levantou um alerta que ecoa como uma cena de ficção científica em uma recente entrevista concedida ao jornalista Ezra Klein, do The New York Times, ao debater sobre o destino futuro das inteligências artificiais (IA). De acordo com Amodei, no período de 2025 a 2028, as IAs podem atingir um patamar de autonomia que lhes permitirá se autorreplicar, o que representa um risco considerável para a segurança global tanto geopolítica quanto militar. Neste contexto, a Anthropic estabelece standards de segurança para as inteligências artificiais, conhecidos pela sigla ASL.

A segurança e o desenvolvimento de inteligências artificiais (IA) tornaram-se preocupações centrais nos dias atuais. O avanço acelerado dos sistemas de IA levanta questões éticas e práticas sobre o controle e monitoramento das inteligências artificiais em um futuro próximo. Manter um equilíbrio entre a inovação impulsionada pela IA e a segurança global é essencial para garantir um progresso sustentável e benéfico para a humanidade.

Os Avanços da Inteligência Artificial e o Nível de Autonomia

Amodei explica que atualmente estamos no nível 2 de desenvolvimento de sistemas de IA, onde os modelos de linguagem já têm a capacidade de gerar informações potencialmente perigosas, como instruções para a fabricação de armas biológicas. No entanto, ele destaca que essas informações ainda possuem um nível de confiabilidade baixo, o que resulta em um risco relativamente limitado.

Em contraste, o potencial alcançado no nível 3 representa um risco significativo, com previsão de ser alcançado em breve. Neste estágio, a possibilidade de ocorrência de uma catástrofe é consideravelmente maior, com a perspectiva de utilização dessas tecnologias em armas biológicas e cibernéticas.

Amodei ressalta ainda que, no nível 4, que é mais especulativo, a IA poderia apresentar características de autonomia, incluindo a capacidade independente de reprodução de sistemas e a habilidade de persuasão. A estimativa é que modelos com esse nível de autonomia possam surgir entre 2025 e 2028, levantando sérias questões sobre a segurança global diante do potencial uso militar dessas tecnologias.

O CEO alerta para a importância de monitorar de perto o desenvolvimento e aplicação das inteligências artificiais, especialmente diante da possibilidade de alguns países aumentarem suas capacidades militares com essa tecnologia. Com investimentos de grandes empresas como Amazon e Google, a Anthropic lançou seu próprio modelo de linguagem, o Claude, destacando um enfoque responsável em sua criação em comparação com a OpenAI.

A IA da Anthropic já está na sua terceira versão desde março deste ano, demonstrando um avanço contínuo na área. A necessidade de um acompanhamento rigoroso do progresso da implementação das IAs é crucial para garantir uma abordagem ética e segura no desenvolvimento dessas tecnologias de ponta.

Fonte: © CNN Brasil