Pesquisadores questionam como aplicativo do Sora se encaixa na missão da OpenAI

Tecnologia

O aplicativo Sora, da OpenAI, foi lançado no dia 30 de setembro. Ele utiliza o modelo Sora 2 para criar vídeos realistas com inteligência artificial (IA). Porém, a chegada do app, com um feed composto por deepfakes, levou pesquisadores a questionarem se ele se encaixa nos objetivos traçados pela empresa.

“A missão da OpenAI é garantir que a inteligência artificial geral (IAG) — ou seja, sistemas altamente autônomos que superam os humanos nas tarefas economicamente mais valiosas — beneficie toda a humanidade”, afirma a empresa de Sam Altman em uma carta que descreve seus princípios.

Fundada em 2015, a companhia também ressalta que, uma vez que a AGI for alcançada com sucesso, a tecnologia deverá impulsionar a economia global e auxiliar na descoberta de novos conhecimentos científicos que “mudam os limites das possibilidades”.


Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.

Nesse sentido, o aplicativo Sora ainda não oferece a especialistas em IA total certeza de que está alinhado com os objetivos declarados pela empresa.

Rohan Pandey, ex-pesquisador da OpenAI, criticou o novo aplicativo e aproveitou o momento para promover uma startup chamada Periodic Labs, voltada à criação de sistemas de IA para descobertas científicas e lançada no mesmo dia do app de vídeos.

“Hoje serão apresentadas duas visões do futuro da humanidade com IA. Se você não quiser construir a máquina de lixo infinita do TikTok com IA, mas quiser desenvolver uma IA que acelere a ciência fundamental, elevando a civilização ao nível Kardashev 1 e além, venha se juntar a nós na Periodic Labs”, escreveu em sua conta no X (antigo Twitter).

Impressões de pesquisadores da OpenAI

John Hallman, pesquisador de pré-treinamento da OpenAI, também usou o X para afirmar que feeds de redes sociais baseados em IA são “assustadores” e que ficou preocupado quando soube do lançamento do Sora 2.

“Dito isso, acho que a equipe fez o melhor trabalho possível para criar uma experiência positiva”, escreveu Hallman. “Faremos o nosso melhor para garantir que a IA ajude e não prejudique a humanidade.”

Boaz Barak, pesquisador da OpenAI e professor da Universidade de Harvard, respondeu à postagem afirmando que ainda há limites nas avaliações relacionadas ao app, mas que confia que a empresa fará o monitoramento e possíveis adaptações ao Sora.

“Compartilho uma mistura semelhante de preocupação e entusiasmo. O Sora 2 é tecnicamente incrível, mas é prematuro nos parabenizarmos por evitar as armadilhas de outros aplicativos de mídia social e deepfakes”, ressaltou Barak.

Will DePue, pesquisador em aprendizado por reforço aplicado a modelos de linguagem na OpenAI e que também contribuiu para o desenvolvimento do Sora, parabenizou a equipe por trás do app e ressaltou a inteligência inovadora do Sora 2.

Contudo, ele também apresentou alguns pontos de preocupação, especialmente em relação às IAs voltadas à produção de vídeos.

“Claro, ainda estou muito preocupado com a forma como os modelos de vídeo acabarão afetando o ecossistema de informação mundial, a política e os regimes, ou a saúde mental das pessoas”, destacou DePue.

Sam Altman responde a críticas sobre o Sora

Usuários das redes sociais também questionaram Sam Altman sobre o lançamento do Sora e citaram um post em seu blog pessoal (blog.samaltman.com), no qual ele afirma que, talvez com 10 gigawatts de computação, a IA poderia descobrir a cura para o câncer.

Em resposta a uma publicação no X, Altman afirmou que é necessário atrair capital para construir IAs capazes de revolucionar a ciência, mas que também é importante mostrar às pessoas novas tecnologias que possam despertar entusiasmo.

“Eu entendo a vibração aqui, mas… Precisamos principalmente do capital para construir IA que possa fazer ciência e, com certeza, estamos focados em IA com quase todos os nossos esforços de pesquisa”, escreveu o CEO da OpenAI.

Leia mais:

VÍDEO | Você já se perguntou como o Raony faz os vídeos da Marisa Maiô?

Leia a matéria no Canaltech.