Criador do Claude alerta que Inteligência Artificial precisa de um freio de mão
O cofundador da Anthropic, empresa responsável pelo Claude, Jack Clark, avisou que é preciso retardar a progressão da inteligência artificial (IA), alertando que a tecnologia está próxima de evoluir sem intervenção humana.
O executivo sublinhou que as pessoas, através de políticas governamentais, precisam de manter o controle dos sistemas de IA, que estão rapidamente se tornando mais poderosos e terão impactos cada vez mais amplos na sociedade.
“A única opção é tirar o pé do acelerador e pisar no freio”, disse Clark à BBC. “No momento, é como se a indústria de IA tivesse o pedal do acelerador, mas não tivesse um de freio.”
“O mundo precisa de pensar um pouco e precisamos eventualmente desenvolver alguns novos regulamentos que nos permitam ter confiança nestes sistemas”, disse ele.
O popular chatbot Claude da Anthropic já está operando com código do qual 80% foi escrito pelo próprio sistema. Chegar a 100% é possível dentro de dois anos, disse Clark, e “teria enormes implicações”.
Clark não delineou como poderia ser criado um “freio de mão” para a investigação e desenvolvimento da IA, mas traçou um paralelo entre a IA e o boom do petróleo e os barões do século passado.
“A resposta da sociedade foi criar uma política sensata e um quadro regulamentar que desse às pessoas confiança no petróleo e nos benefícios que o petróleo poderia proporcionar ao mundo, e isso significava que era preciso se preocupar com as personalidades das pessoas que lideram as empresas”, disse Clark. “É exatamente o que estamos vivendo aqui.”
No entanto, a Anthropic esta semana acolheu uma ordem executiva sobre IA do presidente dos EUA, Donald Trump, que foi relativamente indiferente em suas diretrizes para as empresas.
As principais empresas de IA que buscam avanços na tecnologia, incluindo a Anthropic, a OpenAI e o Google, também não disseram que vão interromper, ou desacelerar, as suas pesquisas em IA.
A criadora do Claude está prestes a se tornar uma das primeiras empresas de capital aberto de IA, com uma das cotações de ações mais valiosas da história, já que a avaliação da Anthropic é estimada por investidores privados em quase 1 bilhão de dólares (5 bilhões de reais).
Clark disse que a motivação da Anthropic para discutir publicamente a capacidade crescente da IA vai melhorar ainda mais sua reputação junto aos clientes pagantes. Ele simplesmente quer “contar ao mundo o que estamos vendo dentro dessas empresas com esta tecnologia fora do comum”.
Jack Clark foi um dos sete ex-funcionários da OpenAI cofundadores da Anthropic em 2021.
Desde a sua fundação pelo executivo-chefe Dario Amodei, Clark e alguns outros, a Anthropic se posicionou abertamente sobre os riscos decorrentes da IA. Ele chegou até a se envolver em uma disputa pública com o Departamento de Defesa dos EUA devido a preocupações de que as suas ferramentas de IA seriam utilizadas na vigilância em massa dos americanos.
“Estou preocupado com os meus filhos se nós, como sociedade, não tivermos uma conversa séria sobre o que significam as implicações dos avanços contínuos da IA”, disse Clark ao Newsnight. “Existem benefícios potencialmente grandes, mas também existem riscos.”
Clark acrescentou que um dos riscos é uma perturbação na economia, com receios de que a tecnologia dos agentes de IA – essencialmente bots de IA individuais que conduzem tarefas rotineiras de forma autônoma – possam assumir mais e mais funções.
Clark disse que as pessoas mais criativas podem, na verdade, ter uma vantagem sobre a tecnologia de IA.
“Há questões em aberto sobre se os sistemas de IA podem ser verdadeiramente criativos… ainda não há provas disso”, acrescentou. “Na Anthropic, agora estamos mais limitados pela capacidade de gerar boas ideias do que pela capacidade de criar a engenharia necessária para transformar essas ideias em realidade”.
No entanto, Clark sugeriu que um jovem que sinta que a IA não tem nada a ver com ele deveria “desenvolver um hobby” e seguir uma educação em artes liberais.
“Pessoas criativas conseguem pensar de forma ampla, pessoas que leem muito, pessoas que têm interesses são as mais beneficiadas com isso”, disse Clark. “Delicie-se com a curiosidade e você verá como você pode usar essa tecnologia da melhor forma”.
