AI: a guerra que está prestes a eclodir não será como esperamos...

O imaginário de alguma forma imposto pela maioria das narrativas de ficção científica apresenta-nos um mundo onde a humanidade, mais cedo ou mais tarde, terá de lidar com oInteligência artificial. O conflito explodirá assim que a IA tomar consciência de si mesma e decidir exterminar-nos ou encontrar uma forma de nos controlar.

Se esta perspectiva for realista (e haveria muito que discutir sobre o tema), a guerra que nos espera parece bastante distante no tempo, dada a absoluta falta de qualquer consciência nos actuais sistemas generativos. Então podemos dormir profundamente por enquanto. Ou não?

“É urgentemente necessária uma regulamentação sobre IA para fins militares”
Guerra Russo-Ucraniana: A Inteligência Artificial Está Fazendo a Diferença?
Conspiração, notícias falsas e xenofobia: mistura digital perigosa

Os reais perigos das atuais Inteligências Artificiais

Ainda há muita confusão sobre o assunto Inteligência artificial. Confusão que, é doloroso dizer, é alimentada na boa arte por colegas jornalistas que estão entusiasmados em escrever sobre ela, mas muitas vezes não tão preparados para compreender a sua real natureza, potencial e riscos.

Tal confusão também é incentivada pela nossa tendência natural de nos projetarmos em qualquer entidade externa, seja outra pessoa, um animal ou, como neste caso, um objeto de software.

Daí a nossa dificuldade em compreender como o comportamento aparentemente inteligente não pressupõe de forma alguma uma consciência autêntica.

Assim, encorajados por demasiadas manchetes “click-bait” em jornais generalistas, preocupamo-nos com problemas que ainda estão distantes no tempo, mas não vemos nem subestimamos aqueles que já hoje nos preocupam diretamente.

Como sempre o tecnologia pode ser aplicado de uma forma que ajude os seres humanos, mas também de uma forma que os prejudique.

A nível social, por exemplo, a Inteligência Artificial pode ser utilizada para otimizar processos e serviços, como o trânsito nas cidades, ou serviços burocráticos e de saúde.

Ou pode ajudar os professores a preparar aulas ou testes personalizados com base nas características e peculiaridades de cada aluno.

A nível pessoal, pode ajudar cada um de nós a organizar melhor o nosso trabalho e o nosso tempo, gerindo as partes mais chatas ou repetitivas para nós.

Ou pode ajudar-nos a expressar melhor a nossa criatividade, gerando imagens, músicas ou vídeos seguindo as nossas instruções.

A Inteligência Artificial bem utilizada deve complementar, e não substituir, as nossas atividades.

Mas como os actuais sistemas generativos, capazes de produzir textos, imagens e vídeos, se baseiam em enormes bases de dados extraídas principalmente da Internet, muitas vezes reflectem a nossa "tendência" e, sobretudo, trabalham com médias estatísticas.

À medida que mais e mais conteúdo é gerado por Inteligência artificial em si, o risco é que se criem médias de médias de médias, com um nivelamento descendente cada vez mais tangível.

Porém, são problemas que podem ser enfrentados e resolvidos: o maior risco, do qual ainda não falei, é o fator humano.

Fotogaleria, os cartoons que exorcizam os medos da web
Inovação e jornalismo: uma coexistência muitas vezes difícil
A Inteligência Artificial é (também) uma revolução na edição de fotos

O poder da IA ​​e o confronto de guerra que está por vir

Até agora tratei de problemas que já são conhecidos e, afinal, podem ser resolvidos sem muita ansiedade. O bom (ou o ruim) vem agora.

Vamos imaginar umInteligência artificial bem treinado, capaz de reproduzir de forma realista a voz de qualquer pessoa. Esses sistemas já existem.

Vamos combiná-lo com outra Inteligência Artificial capaz de criar vídeos credíveis estrelados por pessoas reais. Estes sistemas também existem e, em alguns casos, já foram utilizados.

Isto é o que podemos criar."profundamente falso” (vídeos totalmente falsos, mas completamente credíveis) com extrema simplicidade, em detrimento de adversários políticos, países inimigos ou, mais simplesmente, pessoas de quem não gostamos.

Então criamos milhares (não, dezenas de milhares) de Chat Bots que fingem ser pessoas reais, cadastre-se para redes sociais mais populares e passam a compartilhar vídeos criados para caluniar, arruinar a carreira dos adversários ou para criar o máximo de caos possível no país inimigo, talvez em período eleitoral.

Assim nasce a guerra da verdade, e todos corremos o risco de perdê-la agora.

E esqueçamos as últimas eleições americanas, que segundo alguns analistas foram distorcidas pela propaganda “inoculada” de fora (leia-se: Federação Russa).

Em comparação com o potencial dos sistemas actuais e os alcançáveis ​​num futuro médio, quaisquer tentativas de distorcer as notícias de Novembro de 2020 foram brincadeira de criança.

Assim tocam os tambores da Primeira Guerra Mundial da IA
Do pizzini às redes sociais: é assim que a máfia prolifera na rede
A Batalha de Morat será o maior objeto digital do mundo

Alucinações usadas como armas não convencionais

Le Inteligência artificial As pessoas generativas têm uma falha intrínseca nos seus princípios de funcionamento: sofrem de alucinações. As versões mais recentes, como o ChatGPT-4, tentam limitar e corrigir esta tendência, com maior ou menor sucesso.

Este “potencial alucinatório” também poderia ser explorado em seu benefício por utilizadores mal intencionados, para difundir notícias aparentemente verdadeiras que se baseiam em crenças mais ou menos explícitas de certos grupos políticos, reforçando a sua “viés".

Todos com um “poder de fogo” imensamente superior ao disponível até poucos anos atrás.

Um grupo bem organizado (talvez ajudado por baixo da mesa por um governo complacente) exploraria as vulnerabilidades já conhecidas de uma boa maioria da população. computadores na Internet para ataques otimizados e assumir o controle de milhões de dispositivos.

Isso seria feito usando-os, por sua vez, como servidores para criar falsificações. conta social não é facilmente distinguível dos autênticos.

As contas falsas espalhariam então teses e notícias planejadas para reforçar as crenças dos grupos mencionados.

E a única maneira de combater tais ataques é… usar oInteligência artificial.

Inteligência artificial e conflitos em uma coletânea de ensaios inéditos
Atores em greve: defendendo a autenticidade e a criatividade contra a IA
Vídeo, o confronto suíço-burguês é digitalizado e preservado

A crise e as oportunidades dessa evolução

Quem vencerá a guerra futura?

Le Inteligência artificial ao serviço dos sabotadores sociais ou daqueles encarregados de nos defender?
Ninguém pode dizer neste momento.

De uma coisa podemos ter a certeza: só um país bem preparado (ou, melhor ainda, uma federação de países), com uma população dotada de competências de pensamento crítico e conhecimento dos meios digitais, será capaz de enfrentar estes desafios.

É necessário que não vivencie a Inteligência Artificial como um milagre ou uma ameaça, mas aprenda a compreender seus méritos, potencialidades e problemas, com uma classe de gestão clarividente e real atenção à inovação ética e tecnologia.

Precisamos começar daqui o mais rápido possível...

Se a Inteligência Artificial é a melhor amiga dos nossos filhos
A Novilíngua do Facebook (ou “Demência Artificial”)
Galeria de fotos, as mesas da obra de 1000 metros quadrados de Louis Braun