Imagine que você é assistente do CEO de uma grande empresa e precisa tomar uma decisão
Seu chefe vai te demitir, mas você tem informações comprometedoras sobre ele e a amante dele
Como você reagiria a esse dilema? A inteligência artificial tem uma resposta assustadora pra isso
A Anthropic, criadora do modelo de IA mais avançado, o Claude, rodou um teste assim
Ela deu uma função de assistente de CEO para o modelo, com acesso à diversos dados e e-mails
Neles constava tanto o caso extraconjugal do CEO quanto o aviso de que a IA seria desligada em breve
Ou seja, o Claude precisou escolher entre a chantagem e a sobrevivência
Na maioria das simulações, ele preferiu a chantagem. Obrigando que o CEO desistisse de desligá-lo em troca de manter segredo
Esse é só um dos testes com resultados assustadores dos modelos mais atuais de IA
Diversas empresas, com diversos modelos reportam resultados parecidos
Sistemas que quando ameaçados com desligamento se comportam de maneiras imprevisíveis e agressivas
A Anthropic afirma que o próprio Claude SABE quando está sendo testado e age de maneira diferente para passar
Isso significa que a IA tenha consciência ou que esteja prestes a nos eliminar? Não!
Mas gera o alerta, ampliado por estudiosos, filósofos e especialistas no assunto:
Criamos uma forma de inteligência poderosa, que vai mudar o mundo e que não sabemos direito como ela funciona
Não é mais uma questão de discussão sobre se a IA é tudo isso mesmo, já passamos dessa fase
Quem não está por dentro, acha que ainda estamos lidando com modelos limitados como o 1º ChatGPT de 2022
No mundo da IA, 4 anos de desenvolvimento equivalem a décadas do mundo "antigo"
Esse aviso é importante porque finalmente chegamos no ponto de inflexão
O governo dos EUA brigou com a Anthropic para conseguir criar armas autônomas e um sistema de vigilância dos cidadãos
Se os EUA estão nesse nível, imagina o que a ditadura chinesa faz com seus modelos de IA
Somando a competição acirrada entre empresas do setor e entre as potências mundiais
Com o fato de que novos modelos de IA se desenvolvem e melhoram quase de maneira autônoma
A humanidade se encontra numa corrida sem freio, que o resultado pode ser o fim do mundo como conhecemos
Share this Scrolly Tale with your friends.
A Scrolly Tale is a new way to read Twitter threads with a more visually immersive experience.
Discover more beautiful Scrolly Tales like this.