‘Nenhuma ação é extrema demais’ – CEOs de IA pressionam por medidas de segurança contra suas próprias criações

O ceticismo em torno da segurança das IAs está atingindo um ponto de ebulição. Você não pode navegar pelas redes sociais sem ver universitários vaiando discursos de formatura pró-IA ou comunidades locais lutando contra a expansão de enormes data centers. Mas embora os CEOs de tecnologia passem muito tempo exaltando o futuro, eles não estão tão alheios à situação como se poderia imaginar.

Sim, pessoas como o CEO da Anthropic, Dario Amodei, têm um enorme interesse financeiro em garantir que a IA se integre aos nossos locais de trabalho e às nossas vidas diárias. Mas ele, ao lado de vários outros titãs da indústria, está perfeitamente consciente do lado sombrio da tecnologia.

Na verdade, alguns de seus comentários recentes podem surpreender até os maiores céticos em relação à IA. Isto prova que as pessoas que constroem a tecnologia de amanhã não são apenas empresas sem rosto; eles realmente reconhecem a preocupante realidade das ferramentas que estão criando e sabem exatamente o quão perigosa a tecnologia pode ser.

Amodei argumenta que, embora puxar o freio de mão da IA sem provas concretas seja um erro, ainda precisamos de discussões sérias e ponderadas sobre o que está para vir.

“É fácil dizer: ‘Nenhuma ação é extrema demais quando o destino da humanidade está em jogo!’, mas na prática esta atitude conduz simplesmente a uma reação negativa”, escreveu Amodei.

“Para ser claro, acho que há uma boa chance de chegarmos a um ponto em que uma ação muito mais significativa seja necessária, mas isso dependerá de evidências mais fortes de perigo iminente do que as que temos hoje…”

Mas esse perigo pode estar mais próximo do que pensamos. No mesmo ensaio, Amodei admitiu que a nossa infraestrutura atual não está preparada para a enorme escala do que está a ser construído.

“A humanidade está prestes a receber um poder quase inimaginável”, alertou ele, “e não está profundamente claro se os nossos sistemas sociais, políticos e tecnológicos possuem a maturidade para exercê-lo”.

Já estamos vendo as rachaduras nessa maturidade. A Internet está inundada com deepfakes gerados por IA, concebidos para enganar as pessoas comuns, enquanto a dependência corporativa de sistemas de IA desencadeou enormes colapsos operacionais. E os alertas estão ficando mais sombrios. Num alerta conjunto ao Congresso dos EUA, o CEO da OpenAI, Sam Altman, sinalizou uma nova fronteira aterrorizante: ameaças biológicas.

“Os sistemas de IA estão melhorando rapidamente”, afirmou Altman. “…Há uma possibilidade real de que as barreiras de conhecimento que historicamente impediram os maus atores de obter armas biológicas sejam significativamente destruídas.”

Até o CEO da Salesforce, Marc Benioff, rompeu com a Silicon Valley para exigir a regulamentação imediata da IA, apontando como os chatbots de IA já foram associados a trágicas consequências no mundo real, incluindo o suicídio de adolescentes.

“As empresas de tecnologia… odeiam a regulamentação”, disse Benioff. “Eles odeiam isso, exceto uma. Eles amam a Seção 230, que basicamente diz que eles não são responsáveis. Então, se esse grande modelo de linguagem orienta essa criança ao suicídio, eles não são responsáveis? Isso é algo que precisa ser remodelado.”

Felizmente, estão sendo feitos esforços para regular adequadamente a IA. A Lei de Transparência na Fronteira da IA da Califórnia (SB 53) foi posta em prática como uma lei que exige que os desenvolvedores de IA sejam mais transparentes sobre como criaram a estrutura de sua IA, torna mais fácil para os desenvolvedores e cidadãos relatarem erros de segurança e protege os denunciantes que divulgam informações cruciais sobre os riscos de saúde e segurança apresentados pela IA.

Além disso, a Lei Local 144 de 2021 da cidade de Nova York “proíbe empregadores e agências de emprego de usar uma ferramenta automatizada de decisão de emprego, a menos que a ferramenta tenha sido sujeita a uma auditoria tendenciosa dentro de um ano após o uso da ferramenta”.

Com alguma resistência muito necessária contra o envolvimento da IA nas questões do seu desenvolvimento contínuo e práticas de emprego, é reconfortante saber que as medidas de segurança estão começando a surgir e os CEOs já defendem a regulamentação.

Se você trabalha com IA, um tablet eficiente faz toda a diferença. Caso esteja pensando em trocar o seu, o Tablet Samsung Galaxy TAB A11+ é uma das melhores opções atualmente no mercado. Compre o seu em 12x sem juros neste link.

Quando você compra por meio de links em nossos artigos, você apoia o Futuro Guiado. Isso não afeta nossa independência editorial.