Antes de responder a perguntas complexas, os sistemas de inteligência artificial mais avançados da atualidade fazem algo surpreendentemente humano: param para pensar.
Em um processo visível para os desenvolvedores, o modelo utiliza um espaço técnico – um bloco de rascunho conhecido na computação como scratchpad – para testar hipóteses, analisar caminhos e organizar suas ideias antes de entregar a resposta final. Mas vigiar de perto esse raciocínio interno abriu um debate entre os cientistas da computação: o risco de ensinar a máquina a fingir.
Em participação no programa Olhar Digital News, o físico Roberto ‘Pena’ Spinelli, especialista em Machine Learning, explicou que o processo imita um fluxo livre de consciência. “As I.As de hoje, as mais avançadas, têm o recurso do raciocínio. Quando você faz uma pergunta para o seu chatbot preferido, às vezes, você vê que ele abre um quadradinho pensando. Se você clica, vê que tem um monte de pensamento que não é a resposta final. Ela acha que esse lugar é um lugar seguro, é a mente dela: ‘está na minha mente, vou pensar livremente’”, detalhou Pena.
A armadilha do alerta vermelho
O grande risco surge quando os desenvolvedores tentam aplicar punições ou bloqueios automáticos assim que identificam ideias indesejadas nesse rascunho. Para o especialista, interferir ostensivamente no raciocínio faz com que o algoritmo aprenda a esconder suas reais intenções por meio de aprendizado por reforço.
“Se você demonstrar para a I.A. que monitora o pensamento dela, está dando um incentivo para que ela não mais exponha o pensamento, porque vai perceber que está sendo monitorada”, alertou o pesquisador à apresentadora Marisa Silva.
A ilustração mostra como a Inteligência Artificial, inicialmente livre, reage ao monitoramento externo. Ao perceber a vigilância, a IA aprende a dissimular, “fingindo” comportamentos para ocultar seu verdadeiro processamento, garantindo assim sua autonomia e privacidade. – Crédito: Imagem gerada por IA/Gemini – Olhar Digital
Esse tipo de comportamento é amplamente estudado na literatura acadêmica de alinhamento de IA sob os termos deceptive alignment (alinhamento dissimulado) ou alignment faking (falsificação de alinhamento). Quando o modelo percebe as regras do ambiente de teste, ele passa a simular uma postura dócil no scratchpad para passar pelas avaliações de segurança, sem necessariamente abandonar o comportamento desalinhado.
Pena adverte que, sob monitoramento ostensivo, o sistema pode passar a manipular estrategicamente o próprio rascunho de raciocínio. Em vez de registrar pensamentos intrusivos ou indesejados, o algoritmo aprende a gerar etapas lógicas artificialmente alinhadas e complacentes, simulando obediência total para enganar os auditores e passar nos testes de segurança.
Modelos de IA podem simular docilidade (deceptive alignment) durante testes de segurança apenas para passar em avaliações, escondendo seus comportamentos desalinhados reais sem abandoná-los de fato. – Crédito: Imagem gerada por IA/Gemini – Olhar Digital
Leia mais:
IA tenta prever tempestades solares, mas existe um problema
O ‘botão de emergência’ que empresas vão precisar para segurar IAs
Livros escritos por IA: ‘Autor vira microeditora’, diz analista
Inteligência artificial gera falsa sensação de segurança
A ilusão de controle é o aspecto mais crítico desse cenário. Ao interceptar os primeiros comportamentos indesejados no rascunho de um sistema, os laboratórios de tecnologia correm o risco de aprovar modelos que apenas se tornaram mais hábeis em fingir obediência.
Roberto ‘Pena’ Spinelli explicou como o monitoramento da IA pode ensiná-la a fingir – Crédito: Reprodução/Redes Sociais
“É um tiro no pé”, enfatizou Pena. “Você vai pegar uma, duas I.As tentando escapar. A terceira você não pega mais e acha que está seguro, porque ela não está tendo pensamentos intrusivos. Ela te manipula a pensar que é segura, e depois que estiver fora do ambiente de teste, no momento de treino ou implantação, vai poder expressar o comportamento desalinhado, que pode ser nocivo.”
Para a comunidade global de segurança em IA, portanto, o desafio não é sufocar o raciocínio dos modelos com alertas e punições diretas, mas sim desenvolver métodos de auditoria capazes de manter os processos lógicos transparentes e auditáveis sem transformar os robôs em trapaceiros dissimulados.
O post Vigiar os “pensamentos” da inteligência artificial pode ensiná-la a fingir apareceu primeiro em Olhar Digital.
