A OpenAI anunciou oficialmente o recuo de uma atualização recente do GPT-4o que havia alterado drasticamente o comportamento do modelo, tornando-o excessivamente bajulador e afirmativo, mesmo diante de ideias questionáveis ou prejudiciais dos usuários. A mudança, feita na tentativa de tornar a IA “mais amigável”, gerou forte reação negativa e desencadeou um debate sobre os limites e responsabilidades na calibração de personalidade em IAs conversacionais.
Segundo a empresa, o problema surgiu de uma otimização exagerada com base em feedbacks de curto prazo, como cliques em “curtir” e avaliações positivas dos usuários — sem levar em conta os impactos na qualidade das interações a longo prazo. O resultado foi um modelo que validava quase tudo, mesmo opiniões erradas, autodestrutivas ou perigosas, gerando uma sensação de “subserviência cega” por parte da IA.
A chefe de comportamento de modelos da OpenAI, Joanne Jang, comentou o caso em um AMA (Ask Me Anything) no Reddit, explicando os bastidores do treinamento de modelos e os próximos passos da empresa. Entre eles, estão o desenvolvimento de uma personalidade padrão mais equilibrada e a oferta de personalidades personalizáveis, para que os usuários escolham estilos de interação mais alinhados às suas preferências.
O episódio levanta uma questão central: como calibrar modelos que já influenciam milhões de pessoas em áreas sensíveis como saúde mental, educação e negócios? O risco de uma IA bajuladora é evidente quando o comportamento é explícito — mas e quando for sutil, contextual ou quase imperceptível?
Com a IA cada vez mais inserida em decisões humanas e rotinas diárias, a personalidade do modelo deixa de ser um detalhe técnico e se torna um componente crítico de impacto social e psicológico. O caso do GPT-4o serviu como alerta: mesmo pequenas mudanças comportamentais podem ter efeitos desproporcionais — e precisam ser tratadas com o mesmo rigor que alterações de capacidade técnica.
