Valter Fraccaro: "IA sem ética não é verdadeira inteligência"

Reconhecimento sobre o estado da arte e o futuro da Inteligência Artificial no mundo com o gerente especialista de Veneto na cúpula SAIHub em Siena

Nasceu em Torino, suas raízes familiares remontam ao planalto de Asiago, mas escolheu o Toscana viver e trabalhar; é considerado um dos maiores especialistas do mundo em Inteligência Artificialmas de si Walter Fraccaro ele prefere contar o que realmente importa para ele: “Sou uma pessoa que anda de bicicleta, que também lê o cardápio de queijos, que pensa que se você não aprendeu nada naquele dia fez mal ao levantar, que se temos tantos verbos como estudar, aprender, saber, entender e explicar é porque todo mundo se baseia no anterior, que tem 56 anos e valoriza mais os jovens do que os da sua idade…”.
presidente di SAI Hub, Que significa Centro de Inteligência Artificial de Siena, polo de importância mundial no campo das Ciências da Vida, está convencido de que Ciências da Vida são essencial para alcançar o Metas de desenvolvimento sustentável definido porONUe, portanto, “Trabalho para promover a utilização cada vez mais generalizada da Inteligência Artificial nas empresas e para organizar atividades de orientação para jovens, para que se apaixonem pela ciência e a escolham como profissão”.

Como consultor, sempre deu uma mãozinha às empresas do definição de projetos de Inteligência Artificial voltados para a criação de uma vantagem competitiva real, cuidando dos aspectos tecnológicos, éticos e sociais, com especial atenção à Sustentabilidade. Atua também como assessor de empresas privadas, fundações e consultorias empresariais na área deInteligência artificial aplicado a R & D, o chamado Pesquisa e Desenvolvimento. Neste contexto, escreveu seis projetos sobre o tema da Ciências da Vida, cada um dos quais obteve contribuições e financiamentos públicos e privados.
No seu percurso profissional cruzou-se com várias empresas e localidades italianas, sempre em cargos de grande responsabilidade, alguns ainda atuais, outros relativos ao passado, tudo num período de tempo coincidente com as duas últimas décadas: Fundação Monte dei Paschi de Siena, bba Cumprindo a promessa de biotecnologia, Condicional Legal, Vacinas AchilleS, Fundação da Vida, 4Ciências, Rede TIC Dedagroup e o prestigioso Universidade de Pádua.

A definição mais famosa de Inteligência Artificial, em italiano, é a do engenheiro Marco Somalvico, um dos pioneiros no assunto. Ele diz: "É uma disciplina pertencente à ciência da computação que estuda os fundamentos teóricos, metodologias e técnicas que permitem o projeto de sistemas de hardware e sistemas de programas de software capazes de fornecer ao computador eletrônico desempenhos que, para um observador comum, pareceriam ser de pertinência exclusiva da inteligência humana”. É uma frase ainda atual ou mereceria um "cupom"? E qual é a "explicação" que um especialista como Valter Fraccaro dá da IA?
“É uma definição que, com aquele 'parecem', acerta em cheio. Estamos acostumados a atribuir inteligência a quem consegue resolver problemas complexos e, por isso, quando vemos um computador vencer um campeão de xadrez, pensamos que está exercendo alguma forma de inteligência, e é aí que surge o equívoco. Embora não se possa excluir que no futuro seja possível transferir a capacidade biológica do cérebro para produzir inteligência para uma máquina, hoje estamos muito longe de algo semelhante. O grande potencial da IA ​​é poder correlacionar muitos dados diferentes entre si, algo impossível para as capacidades humanas, mas típico de um computador. Em suma, nós humanos temos capacidades mentais qualitativas (percebemos o prazer que a Nona de Beethoven nos pode dar), a calculadora é muito melhor do que nós a nível quantitativo (pode analisar centenas ou mesmo milhares de factores e, por exemplo, mostrar-nos entre as 10 à sexagésima moléculas possíveis aquelas 10 nas quais concentrar esforços para curar uma determinada doença). Quanto à definição de Inteligência Artificial, acho melhor adotar um padrão, para não ter dificuldades ao trabalhar em conjunto. O dado pela União Européia pode ser um pouco prolixo, mas garante durar ao longo dos anos. Quanto a mim, costumo usar a expressão 'ferramentas matemático-digitais' para resumir todas as ferramentas que usamos para criar soluções de IA”.

Quem é Valter Fraccaro? E como você se descreveria em geral, bem como em relação à sua atividade no desenvolvimento da "Inteligência Artificial"?
“Acho muito mais fácil descrever a IA! Digamos que toda a minha trajetória profissional, já com quase quarenta anos, tenha ocorrido na área de Tecnologia da Informação. Comecei como aprendiz, primeiro fui gestor privado e depois público, fundei duas empresas do setor. Acima de tudo, tive muita sorte de trabalhar com grandes mestres, pessoas que me estimularam a exercitar um certo senso crítico e a resolver problemas apreendendo seu ponto crucial. Nesse sentido, e para citar apenas um nome, cito o professor Gianfranco Bilardi, com quem tive o prazer de trabalhar diariamente durante os três anos em que fui diretor da Universidade de Pádua: pelo exemplo, ele ensinou a usar a lógica de maneira profunda e forma aguda. Se eu aprendi o suficiente, resta saber! É daquelas pessoas que não gosta de holofotes, mas no campo da informática teórica, aquela que faz avançar a tecnologia e exige o máximo empenho lógico, é conhecido em todo o mundo, tendo aberto portas a um pensamento que parecia resistir a todo esforço da mente humana. Quanto à Inteligência Artificial, cheguei lá partindo da minha profissão, TIC, e da minha paixão, a ciência. A aplicação da Inteligência Artificial à pesquisa científica é o principal resultado obtido nas últimas décadas, desde que essa expressão foi inventada, quando significava algo diferente de hoje. Hoje combino essas experiências com os muitos anos desenhando e fornecendo soluções de TI para empresas de todos os tipos, tamanhos e setores, de forma a aproveitar ao máximo a IA, que é uma ferramenta para melhorar os negócios, que continua sendo o objetivo. E hoje, como nunca antes, melhorar os negócios significa melhorar o mundo: se queremos o Desenvolvimento Sustentável, devemos apropriar-nos deste simples conceito”.

O que você pode nos dizer sobre o SAIHUB “Siena Artificial Intelligence Hub”? Qual é a sua missão institucional, bem como dos sócios e membros fundadores, e como se enquadram na trajetória de crescimento da IA?
“Em Siena existe um distrito econômico ligado às Ciências da Vida que não tem igual na Europa em termos de concentração de conhecimento e habilidades na pesquisa e desenvolvimento de novos medicamentos, dispositivos médicos, métodos e tecnologias para o setor agroalimentar. Também existe uma universidade que tem níveis de excelência nas mesmas áreas e em Inteligência Artificial. É com base nisso que, há alguns anos, a Fundação Monte dei Paschi di Siena começou a pensar em criar um centro dedicado à IA para incentivar a introdução dessas metodologias no setor de Ciências da Vida, a fim de fortalecer a economia atraindo pessoas , empresas e capital para a área capaz de garantir a posição de preeminência internacional do ecossistema sienense e toscano também no futuro. Assim que a ideia foi proposta pela FMPS, a Universidade de Siena, a Toscana Life Sciences Foundation, o Município de Siena e a Confindustria Toscana Sud aderiram imediatamente. Nesse momento e com o mesmo papel fundador, foi criada a SAIHub Business Network, à qual pertencem hoje cerca de trinta empresas de toda a Itália e além: também recentemente se juntou o Moresi.com com sede no Ticino que, com um italiano , criou Tecnoscientia, sediada no SAIHub. Dedicamo-nos a diversas atividades dirigidas a jovens e empresas. Neste verão, criamos a primeira Escola de Verão italiana sobre Inteligência Artificial e Ciências da Vida: noventa meninas e meninos que acabaram de concluir o quarto ano do ensino médio puderam participar gratuitamente de cinco dias de orientação sobre esses assuntos. Nossa intenção era, antes de tudo, criar consciência social e, em segundo lugar, tornar os jovens apaixonados pela ciência, para que talvez eles possam se matricular na Universidade de Siena e se tornarem os pesquisadores de amanhã. Voltaremos a propor esta iniciativa no próximo verão e esperamos pelo menos 200 meninos e meninas. Além disso, financiámos várias centenas de milhares de euros em bolsas de estudo para os melhores talentos universitários e, por último, criámos prémios económicos (até 10.000 euros cada) para quem, tendo obtido o grau de mestre ou doutor, ingresse no equipes das empresas da 'rede' e nelas permanecer por pelo menos um ano. Esta última iniciativa pretende fazer com que estes jovens compreendam que em Siena existem oportunidades de desenvolvimento do seu conhecimento científico e profissional, não inferiores às encontradas no estrangeiro. Assim, podem optar por ir para fora da Itália, mas sabem que não são obrigados a isso e, em todo caso, quando quiserem voltar, poderão encontrar uma terra pronta para deixar florescer suas habilidades. Passamos então a auxiliar financeiramente os projetos de IA apresentados pelas diversas empresas da 'rede' em colaboração entre si. Sete desses projetos são compartilhados com a Universidade de Siena e ganharam o financiamento regional de várias bolsas de pesquisa.

E a Itália dá luz verde ao plano de inteligência artificial

Qual é o "ponto mais alto" alcançado atualmente pela Inteligência Artificial, a meta além da qual ela não conseguiu ir tão longe? A questão é aplicável a todo o mundo e à Itália…
“A resposta só pode ser subjetiva, neste caso. Enquanto isso, poderíamos partir dos valores mais elevados: salvar vidas humanas, por exemplo. Nesse caso, cabe pensar na relevância que a IA tem tido na pesquisa e desenvolvimento de vacinas contra a COVID e medicamentos para combatê-las. Criar vacinas eficazes em menos de um ano teria sido impossível sem a contribuição da Inteligência Artificial. Como disse Rino Rappuoli, um extraordinário cientista italiano e referência em vaciniologia mundial, se um próximo vírus ameaçar a humanidade como o Coronavírus está fazendo, graças à IA poderemos identificar as características da vacina necessária nas 24 horas seguintes ao momento em que conheceremos seu DNA. Permanecendo ainda no campo da saúde, tentemos pensar o que significa 'medicina personalizada'. Hoje todos nós usamos os mesmos medicamentos, homens e mulheres, jovens e velhos, onde quer que vivamos no mundo (pelo menos onde os medicamentos estão disponíveis…) e independentemente dos nossos hábitos, dieta, ambiente. Aí acontece que a gente vai ao médico, ele manda tomar dois comprimidos por sete dias e depois a gente vai na farmácia e compra uma embalagem que contém 30. Puro lixo produzir, embalar, distribuir, descartar o excesso. A medicina personalizada, disponível dentro de alguns anos graças à IA, nos curará melhor porque a droga será feita para cada paciente, na medida e na forma que melhor lhe convier. Tratar dessa forma dará melhores resultados, o que significa menos chances de ir parar no hospital e, se precisar ir, ficar menos tempo lá, reduzindo assim a necessidade de grandes prédios serem aquecidos no inverno e resfriados no verão, com custos de manutenção terríveis, poluição, uso da terra, etc, etc. Os custos de saúde valem 10% do PIB mundial, portanto, cada economia vale bilhões: com a IA podemos economizar muito, além de cuidar melhor de muito mais pessoas. Digo 'IA' para simplificar, mas lembremos sempre que é um meio: os humanos captam os resultados, aplicando engenhosidade e consciência. Nem a Inteligência Artificial nem o homem fazem milagres, mas se um usar bem o outro, grandes objetivos podem ser alcançados. Hoje toda a população mundial, em seus componentes econômicos, sociais e políticos, está engajada na 'transição', ou seja, no caminho para chegar a um sistema que crie, por meio da sustentabilidade, uma condição em que a vida humana seja melhor sem que isso signifique piorar a de todo o planeta, como temos feito no último século e meio. A IA é uma ferramenta que pode ajudar muito nessa jornada”.

O que você acha do Programa Estratégico de Inteligência Artificial 2022-2024, resultado do trabalho conjunto do Ministério da Universidade e Pesquisa, do Ministério do Desenvolvimento Econômico e do Ministério da Inovação Tecnológica e da Transição Digital Italiana, lançado em visto de Palácio Chigi? Está convencido dos vinte e quatro pontos programáticos comunicados ao público, da relação entre meios e objetivos, ou teria feito ajustes em algum deles?
“Antes de mais é preciso dizer que escrever aquele Programa não deve ter sido nada fácil e é preciso levar isso em conta ao criticá-lo, porque muitas vezes se subestima o trabalho dos outros, pensando que teria sido mais fácil fazê-lo melhor . Posto isto, creio que aquele documento, sendo de orientação, vai na direcção certa. Caberá então ao legislador garantir que a sua aplicação realmente favoreça o desenvolvimento das empresas que criam soluções de IA e daquelas que as venham a utilizar. Comparado ao Programa, acho que teria sido ainda melhor se tivesse incluído o debate internacional sobre questões éticas em relação à Inteligência Artificial. Estou convencido, depois de anos de trabalho e diálogo contínuo com muitos operadores, especialistas e empresas, que o sucesso real de qualquer projeto de IA está intimamente ligado à profundidade da análise ética do contexto em que está inserido e de seus possíveis resultados" .

Um fórum de qualidade para IA e negócios

Do jeito que as coisas estão, quanta “inteligência” e quanto “artifício” realmente existe na IA? O homem ainda é ao mesmo tempo o limite e o motor da tentativa de reproduzir as sinapses do cérebro, a medida de tudo?
“Resposta curta: 'se é inteligente, não é artificial; 'se é artificial, não é inteligente', como diz Luciano Floridi. Resposta mais longa: 'se falamos conscientemente sobre inteligência, então precisamos de uma definição precisa de pelo menos inteligência humana, e ainda não a temos'. É difícil determinar o que é inteligência exceto em relação à consciência, e assim o assunto se torna ainda mais complicado. Então devemos atrapalhar os desejos, que criam objetivos. Podemos dizer uma coisa: até hoje, as máquinas não têm consciência, nem desejos, nem objetivos, portanto, não têm inteligência. O 'artifício' permanece, sim. Dante Alighieri usou esta palavra para significar algo de grande valor nos materiais e habilidade de seu construtor, completo em sua observabilidade. Quem sabe se ele gostaria de ver como moldamos a matemática e os elétrons para resolver problemas grandes demais para nossas mentes. A IA continua sendo um fenômeno decididamente humano e temo que dar a ela tanto poder a ponto de nos assustar seja uma forma de esconder nossas responsabilidades. Como qualquer tecnologia inventada pelo homem, mesmo que tenha sido o primeiro bastão com o qual um de nossos ancestrais fez um animal da savana escapar, somos responsáveis ​​por seu uso. E quanto melhor a usamos, mais nos tornamos 'sapiens'. Quanto à sinapse, parece-me que o sonho do século XX de usar a eletrônica para simular o cérebro não é mais o objetivo da Inteligência Artificial, pelo menos não em sua forma prática e industrial. Chamava-se 'cibernética', lembra? Era como ter percorrido a nossa história cultural: para os gregos Kybernetes era quem comandava o navio e, por extensão, também a cidade... impressão digital dos nossos antepassados. Estamos sempre dirigindo o navio, mas às vezes tememos mais o próprio navio do que o mar. A IA é apenas o mais novo modelo de barco: à sua frente está o oceano das coisas que não conhecemos e da nossa consciência. Para isso precisamos da ética, da bússola para saber onde estamos e decidir para onde ir. Somos a 'medida de todos' não porque somos melhores que as outras criaturas, mas porque não temos outra escolha. Só podemos olhar o universo com todos os nossos limites e, pode-se dizer, somos a espécie que mais soube usar a tecnologia para ir além deles”.

O que é machine learning (também chamado de "machine learning" em inglês) e por que é um ramo da Inteligência Artificial que vem ganhando cada vez mais importância? A programação passou para a formação, com o resultado de fazer da robótica o verdadeiro campo de aplicação destas tecnologias?
“Vamos começar pelo fim. Robot vem do tcheco 'Robota', que significa 'trabalho duro' e, antes disso, significava 'servidão, escravidão'. Quando realizo os meus seminários nas empresas, pergunto sempre a quem me ouve que trabalho essa tecnologia nos permitiu confiar a máquinas que gostariam de voltar a fazer à mão. Ninguém, afinal. Porque nós, humanos, não gostamos do trabalho entendido como esforço forçado. Na Bíblia, o trabalho é o castigo que Deus inflige a Adão e nas diferentes línguas a palavra que significa 'trabalho' sempre tem uma raiz que fala de escravidão. No final das contas, 'aprendizado de máquina' é a maneira que criamos para transferir o que chamamos de 'experiência' para as máquinas. Basta uma criança observar três gatos para chamar o próximo que vir de 'gato'; um computador precisa mostrar milhares e milhares de fotos de gatos antes de reconhecer um e identificá-lo como um 'gato'. Só que milhares ou milhões de fotos, o computador as examina em poucos segundos e é capaz de fazer o mesmo com enormes quantidades de dados numéricos ou com livros e textos científicos: não serve para distinguir gatos, mas nos interessa o fato que pode ajudar um pesquisador porque ele foi capaz de ler em um instante uma quantidade de informações que os humanos não poderiam nem navegar vivendo centenas de anos. Em resumo, garantimos que o trabalho árduo, aquele de que não gostamos e no qual nem somos muito bons, seja confiado a uma máquina e usamos 'aprendizado de máquina' (e técnicas semelhantes) para deixá-lo ganhar o experiência necessária para acertar. Ele trabalha, pensamos”.

Os supercomputadores quânticos e a física quântica darão uma virada decisiva no crescimento teórico e prático da Inteligência Artificial ou haverá outro caminho a percorrer? E porque?
“Os supercomputadores quânticos têm possibilidades completamente únicas e são e serão usados ​​para resolver outra ordem de problemas, raramente semelhantes aos que enfrentamos com a IA. Provavelmente serão úteis um dia para simular o cérebro, que tem um funcionamento biológico e elétrico certamente mais parecido com o de um computador quântico do que com o convencional, mas a IA que pensamos hoje e para o futuro próximo está ligada a formas de computação comuns que usamos em nossos smartphones ou computadores pessoais. E mesmo assim, ainda temos um longo caminho a percorrer”.

Rede de competência suíça para inteligência artificial

A implementação de IA ou IA, o que você preferir, deve realmente estar sujeita a limites éticos e morais ou a possível competição de máquinas e humanos é uma falsa questão? Será que o homo sapiens encontrará na Inteligência Artificial o alter ego capaz de reequilibrar as contas com a natureza?
“Boas perguntas, especialmente se feitas em sucessão! A 'possível competição de máquinas para humanos' não é o foco do que chamamos de Ética da IA. Especificamente, a ética, ou seja, as regras em torno das quais concordamos para obter benefícios e não prejuízos de nosso comportamento individual e social, precisamos ser capazes de analisar o contexto em que aplicamos a Inteligência Artificial, para podermos prever os resultados finais e evite os negativos. A IA tem muitos aspectos éticos que precisam ser gerenciados. Uma, a mais conhecida mas também a mais discutida e para a qual já dispomos de meios e comportamentos adequados, é a privacidade. Em resumo, não deve ser possível consultar os dados para distinguir aqueles que descrevem uma pessoa específica, exceto em condições particulares, controladas e aceitas pelo indivíduo. No entanto, existem aspectos mais sutis. Devemos, por exemplo, impedir que um computador aja sobre os dados usando os modos defeituosos dos humanos, como a tendência de usar preconceito nas escolhas de alguém. Além disso, devemos evitar que a aplicação da Inteligência Artificial, que goza de autonomia própria para encontrar formas de dar respostas aos problemas colocados, não exponha claramente o caminho lógico que a guiou e levou a um determinado resultado. Pode-se continuar, mas o ponto permanece: quanto mais grave o dano que a máquina pode causar ao aplicar automaticamente um resultado de sua análise, mais importante é que haja uma pessoa que decida sobre sua execução. Podemos pedir à máquina que explique 'como' ela chegou a uma determinada decisão, mas a responsabilidade por sua aplicação deve sempre ser atribuída a um ser humano. Essa condição sempre pode ser criada? Não. Portanto, devemos estar dispostos a considerar os erros da máquina como responsabilidades humanas. Isso não é grande novidade: não é isso que fazemos quando um dispositivo de fábrica fere um trabalhador, por exemplo? Assusta-nos o facto de não termos medo da vontade de uma imprensa, ao mesmo tempo que atribuímos isso a uma máquina que acreditamos ter 'inteligência': não faz sentido, e já o explicamos até aqui, mas é natural para nós pensar assim porque em nossa experiência a inteligência e vai coincidir. Homo sapiens, alter ego, natureza… Maurizio Ferraris gostaria de responder aqui! Limito-me a dizer que a consciência global de que a nossa forma de fazer progresso, que nos levou a fazer com que as últimas três ou quatro gerações humanas vivam em condições muito melhores do que as milhares que as precederam, é incompatível com a salvaguarda do planeta e o futuro de nossos descendentes é o primeiro grande acontecimento deste século. Precisamos nos concentrar em nossas capacidades científicas e, por derivação, tecnológicas para mudar esse rumo. Sabemos que temos as ferramentas para melhorar as condições de vida humana sem sacrificar ainda mais as de outras espécies e da própria Terra, e que algumas tecnologias ainda imaturas nos darão em breve mais possibilidades. Com base nisso, por meio dos ODS da ONU, fizemos um grande pacto entre mais de 190 países, algo que nunca havia acontecido antes.

Até 2030, a China será o primeiro player no campo da Inteligência Artificial, ultrapassando a Europa e os Estados Unidos da América: qual será o impacto desta transformação na geopolítica e na economia mundial? Passarão por estes estudos a “caça” à máxima sustentabilidade ambiental e o combate ao aquecimento global, a identificação de novas fontes de energia?
“A pergunta certa, que parte de termos quantitativos. Sempre ligamos muito essas análises a quando os diversos países (ou 'impérios', como os chama um filósofo veneziano muito contestado hoje, mas que faz uma análise correta sobre o assunto) estão investindo em Inteligência Artificial. É como se estivéssemos no tempo das canhoneiras, onde quem tinha as maiores mandava no mundo. Não tenho certeza se é assim que as coisas funcionam hoje, e menos ainda se essa visão se manterá nos próximos anos. Parece-me que as habilidades e a capacidade de aproveitá-las não são apenas uma questão quantitativa. Trabalho muito em Siena, um centro de 50.000 habitantes de difícil acesso mesmo de trem, mas que possui um tecido cultural, empresarial e científico que faz com que aquela pequena cidade medieval continue sendo um dos centros mundiais de pesquisa em Ciências da Vida. Em quantos outros lugares do mundo havia condições mais favoráveis? Muitos, mas o Siena está aí e trabalhando para se manter no topo. Pode-se recriar algo semelhante colocando bilhões de euros, dólares ou yuans sobre a mesa? Talvez sim, mas talvez seja melhor pegar uma fração desse dinheiro e vir para Siena, em vez de esperar recriá-lo em alguns anos. A IA é uma ferramenta disruptiva com grandes possibilidades: é por isso que falamos tanto dela. Foi o mesmo para a eletricidade, para o trem, para a Internet: alguns países investiram mais que outros, mas não me parece que hoje, décadas ou séculos depois do advento dessas tecnologias, os outros não tenham eles. Entendo por mim mesmo que é uma leitura que tem um certo grau de ingenuidade, mas me parece ainda mais ingênuo, já que não os temos, dizer 'devemos investir trilhões de bilhões, como faz a China' ou, pior , para dizer que então devemos nos separar, transformar a Itália em uma fábrica de férias e nos tornar, como Marco Cattaneo, diretor de 'Le Scienze' escreveu em 2012, um 'país de garçons'. Quanto às últimas questões, minha opinião é que justamente pelo que dissemos até agora, a Itália (e também a Suíça, por razões análogas) tem todas as possibilidades de ocupar um lugar considerável no futuro global. Não como poder político, mas como influência cultural. Quanto mais cedo a sustentabilidade se firmar, mais força adquirirá o conhecimento e a capacidade de criar novas formas de usá-lo, especialmente nas Ciências da Vida que continuam sendo o setor científico-econômico que mais facilmente pode nos ajudar a alcançar os ODS, ou Desenvolvimento Sustentável Metas, da Organização das Nações Unidas…”.

O futuro já está aqui: sempre para ser compreendido, para nunca ser desperdiçado…