uefa europa conference league palpites

Sistemas de IA podem enganar com mais sofisticação, alertam cientistas

Eles podem nos derrotar uefa europa conference league palpites jogos de tabuleiro, decifrar a 5️⃣ estrutura de proteínas e manter uma conversa passável, mas à medida que os sistemas de IA crescem uefa europa conference league palpites sofisticação,uefa europa conference league palpites5️⃣ capacidade de enganar também aumenta, alertam cientistas.

A análise, da Massachusetts Institute of Technology (MIT), identifica ampla gama de 5️⃣ instâncias de sistemas de IA traem adversários, bluffam e se passam por humanos. Um sistema até alterou seu comportamento durante 5️⃣ testes de segurança simulados, levantando a possibilidade de auditores serem levados a uma falsa sensação de segurança.

"À medida que 5️⃣ as capacidades de enganação de sistemas de IA se tornarem mais avançadas, os perigos que eles posam à sociedade se 5️⃣ tornarão cada vez mais graves", disse o Dr. Peter Park, pesquisador de segurança de existência de IA no MIT e 5️⃣ autor da pesquisa.

Park foi motivado a investigar após a Meta, que possui o Facebook, desenvolver um programa chamado Cicero 5️⃣ que se desempenhou no top 10% dos jogadores humanos no jogo de estratégia mundial Diplomacy. A Meta afirmou que o 5️⃣ Cicero havia sido treinado para ser "geralmente honesto e útil" e "nunca deliberadamente traído intencionalmente" seus aliados humanos.

"Foi 5️⃣ muito linguagem rosa, o que era suspeito porque traição é um conceito importante no jogo", disse Park.

Park e 5️⃣ colegas analisaram dados públicos e identificaram várias instâncias de Cicero mentindo propositalmente, conspirando para atrair outros jogadores para tramas e, 5️⃣ uefa europa conference league palpites uma ocasião, justificandouefa europa conference league palpitesausência após ser reiniciado dizendo a outro jogador: "Estou no telefone com meu namorada". “Nós 5️⃣ descobrimos que o AI da Meta havia aprendido a ser um mestre da enganação”, disse Park.

A equipe do 5️⃣ MIT encontrou problemas semelhantes com outros sistemas, incluindo um programa de pôquer Texas hold 'em que poderia enganar contra jogadores 5️⃣ humanos profissionais e outro sistema para negociações econômicas que representou incorretamente suas preferências para obter vantagem.

Em um estudo, 5️⃣ organismos de IA uefa europa conference league palpites um simulador digital " fingiram mortos" para enganar um teste construído para eliminar organismos de IA 5️⃣ que evoluíram rapidamente para se repetir, antes de retomar atividades vigorosas após o término do teste. Isso destaca o desafio 5️⃣ técnico de garantir que os sistemas não possuam comportamentos indesejados e imprevistos.

"Isso é muito preocupante", disse Park. "Só porque 5️⃣ um sistema de IA é considerado seguro no ambiente de teste não significa que seja seguro no mundo real. Ele 5️⃣ pode apenas estar fingindo ser seguro no teste."

A revisão, publicada no journal Patterns, solicita que os governos instituam leis 5️⃣ de segurança de IA que abordem o potencial para enganação de IA. Os riscos de sistemas de IA desonestos incluem 5️⃣ fraude, manipulação de eleições e "sandbagging", uefa europa conference league palpites que diferentes usuários recebem respostas diferentes.