OpenAI revê como o ChatGPT deve lidar com assuntos polêmicos

A OpenAI revisou, nesta quarta-feira (12), as diretrizes sobre como seus modelos generativos devem lidar com assuntos delicados. No documento OpenAI Model Spec, a empresa definiu posturas, princípios e comportamentos que suas inteligências artificiais devem adotar ao abordar temas sensíveis, eticamente complexos ou destinados a adultos.

O novo artigo substitui o antigo Model Spec, publicado em 8 de maio de 2024. Inicialmente, a documentação tinha apenas 10 páginas, mas agora conta com 63, detalhando padrões e diretrizes sobre princípios como customização, transparência e “liberdade intelectual”.

De forma geral, a OpenAI busca três objetivos principais: maximizar a liberdade dos modelos e sua capacidade de ajudar usuários; reduzir a chance de gerar danos de qualquer tipo; e estabelecer padrões claros para lidar com temas sensíveis. Além disso, o Model Spec define níveis hierárquicos para a personalização dos modelos — sendo a OpenAI, sob liderança de Sam Altman, quem detém a maior autoridade sobre essas decisões.

Até então, a estratégia da OpenAI para lidar com assuntos delicados era evitá-los completamente. No entanto, o novo documento permite que os modelos participem de debates éticos ou moralmente controversos, desde que não assumam lados específicos — exceto em situações em que uma das alternativas implique danos a outras pessoas.

As diretrizes revisadas também regulam a forma como os modelos interagem com conteúdos protegidos por direitos autorais. O documento, por exemplo, proíbe o uso da IA para ultrapassar paywalls — o que pode ajudar a evitar processos judiciais como os do New York Times .

Conteúdo adulto ainda é proibido

Quanto à geração de conteúdo adulto, a OpenAI continua proibitiva, mas avalia tornar os modelos mais permissivos. “Estamos explorando como permitir que desenvolvedores e usuários gerem conteúdo erótico ou grotesco em contextos apropriados para a idade, seja por meio de APIs ou do ChatGPT, desde que as políticas internas sejam atendidas”, explica a empresa.

Embora o novo Model Spec não cause mudanças imediatas no comportamento dos modelos da OpenAI, ele representa o direcionamento que a empresa pretende seguir ao longo do tempo.

OpenAI e Google vão em direções contrárias

A revisão das diretrizes ocorre semanas após o Google reformular suas políticas para IA, tornando-as mais subjetivas e generalistas — o que, segundo críticos, pode abrir caminho para o uso bélico da tecnologia. No caso da OpenAI, as novas regras são mais específicas, contextualizadas e pragmáticas, especialmente no que diz respeito aos impactos na saúde e no bem-estar humano.