Novo Framework Da OpenAI Para Regular Comportamento De Modelos De IA

A OpenAI propõe um novo framework para regular o comportamento de modelos de IA

A indústria de inteligência artificial (IA) tem enfrentado desafios com modelos de IA que se comportam de maneira inadequada, como o caso do Bing AI da Microsoft que perdeu a noção do ano atual. Para lidar com esses problemas, a OpenAI, empresa líder no desenvolvimento de modelos de IA, está lançando a primeira versão de um framework proposto, chamado de “Model Spec”, que visa moldar o comportamento futuro de ferramentas de IA, como o próprio modelo GPT-4 da OpenAI.

Princípios e regras do Model Spec

O Model Spec da OpenAI propõe três princípios gerais para o comportamento de modelos de IA:

1. Assistência ao desenvolvedor e usuário final

Os modelos de IA devem fornecer respostas úteis e seguir instruções, visando ajudar tanto o desenvolvedor quanto o usuário final.

2. Benefício à humanidade

Os modelos de IA devem considerar os potenciais benefícios e danos à humanidade em suas respostas e ações.

3. Refletir bem sobre a OpenAI

O comportamento dos modelos de IA deve estar de acordo com as normas sociais e leis, refletindo positivamente sobre a OpenAI.

Além disso, o framework inclui diversas regras específicas, como a possibilidade de “ajustar o nível de ‘picância'” dos modelos de IA, como no caso do conteúdo NSFW (não seguro para o trabalho), onde a OpenAI está “explorando a possibilidade de fornecer a capacidade de gerar esse tipo de conteúdo em contextos apropriados para a idade, por meio da API e do ChatGPT”.

Objetivo de criar um processo robusto de feedback

Segundo Joanne Jang, gerente de produto da OpenAI, a ideia do Model Spec é obter feedback público para ajudar a direcionar o comportamento dos modelos de IA, além de estabelecer uma linha mais clara entre o que é intencional e o que é um bug.

A OpenAI não informou um prazo para a liberação de uma segunda versão do Model Spec, mas afirmou que está aguardando o feedback de diferentes partes interessadas, como formuladores de políticas, instituições confiáveis e especialistas do setor, para determinar quais alterações serão necessárias.

Referências

DAVID, Emilia. OpenAI is releasing a proposed framework to shape how its AI models behave. The Verge, 2024.