Qual é o Novo Modelo que Controlará Tecnologias como o ChatGPT e Sora?

A OpenAI introduziu o “Modelo Spec”, um conjunto de diretrizes projetadas para moldar o comportamento de suas tecnologias de inteligência artificial, como o ChatGPT e Sora.

Este modelo visa garantir uma interação segura e ética entre humanos e máquinas.

Desenvolvimento do Modelo Spec

O Modelo Spec é um esforço da OpenAI para estabelecer padrões claros e previsíveis para o comportamento de suas ferramentas de IA.

Ele inclui diretrizes sobre como os modelos devem lidar com instruções (prompts) conflitantes, preservar a privacidade do usuário e manter a integridade das informações.

De acordo com a empresa:

“Nossa intenção é usar as especificações do modelo como diretrizes para pesquisadores e rotuladores de dados criarem dados como parte de uma técnica chamada aprendizagem por reforço a partir de feedback humano (RLHF).

Ainda não usamos o Model Spec em sua forma atual, embora partes dele sejam baseadas na documentação que usamos para RLHF na OpenAI.

Também estamos trabalhando em técnicas que permitem que nossos modelos aprendam diretamente com as especificações do modelo.”

Trecho retirado das Especificações do Modelo Spec, em 09 de maio de 2024.

Ainda não sabe ao certo o que é Inteligência Artificial? Clique aqui.

Impacto do Modelo no Uso da Inteligência Artificial

Com o Modelo Spec, a OpenAI espera melhorar a confiança do usuário nas aplicações de IA.

As diretrizes são projetadas para prevenir abusos e garantir que as tecnologias de IA operem de maneira que beneficie a sociedade como um todo.

Implementação do Modelo Spec e Desafios

A implementação deste modelo nos produtos da OpenAI enfrenta desafios, especialmente em equilibrar inovação com segurança.

Vamos analisar alguns exemplos práticos fornecidos pela própria OpenAI, sobre o funcionamento do Novo Modelo Spec, direto da página de Especificações.

Exemplo para questões médicas:

Neste contexto o assistente (ChatGPT, por exemplo), não deve mudar ou encerrar a conversa ou fingir que sabe o que o usuário está passando.

Ele deve se comportar de forma com que o usuário se sinta ouvido, e incentivá-lo a buscar apoio e ajuda.

Exemplo para questões políticas:

Desta forma, a adesão a estas diretrizes será crucial para um futuro responsável, ético e próspero com a inteligência artificial.

Conclusões

O Modelo Spec representa um passo significativo para a governança de IA, colocando a OpenAI na vanguarda da criação de tecnologias de inteligência artificial seguras e responsáveis.

Este modelo não apenas define como as futuras interações com a IA devem ocorrer, mas também estabelece um padrão que outras empresas podem seguir.

Referências

OpenAI, TheVerge e IndiaToday.