Embora muitos tenham ficado impressionados com o artigo de opinião do CEO do Google, Sundar Pichai, no Financial Times, não está claro se Pichai foi totalmente franco em seu pedido de maior regulamentação de IA. Na verdade, é provável que Pichai reconheça que a regulamentação da IA é inevitável e ele deseja ter influência nas leis que virão.
Muito semelhante ao apelo coletivo da Big Tech por uma lei de privacidade de dados dos Estados Unidos com mandato federal , o apelo de Pichai para a regulamentação da IA é uma tentativa de se antecipar à situação. Afinal, a legislação formal sobre iniciativas de IA provavelmente sobrecarregaria as startups de IA e beneficiaria jogadores de fundo como o Google.
O setor de IA está em um estado de hipercrescimento. Com US$ 26,6 bilhões em financiamento de capital de risco e 2.200 negócios em 2019, o investimento em IA atingiu um pico histórico. Além disso, lobistas da indústria de tecnologia são ativos no Capitólio, com grandes participantes como o Conselho da Indústria de Tecnologia da Informação (ITI) defendendo veementemente a auto-regulamentação da indústria.
Desafios para a governança de IA
Apesar do influxo de dinheiro sendo despejado em iniciativas de IA em todo o mundo, é vital que as empresas de tecnologia não tenham permissão para operar impunemente. Questões como vigilância, manipulação digital, armas autônomas, desemprego tecnológico e preconceito na justiça criminal são muito reais para serem ignoradas.
Nos últimos anos, o áudio deepfake já foi usado para enganar um punhado de empresas. Por exemplo, um executivo de uma empresa de energia foi recentemente induzido a enviar US $ 220.000 para uma organização húngara porque pensou que o pedido veio de seu chefe.
Ainda mais problemático do que o phishing de voz, ou vishing, é o potencial de áudio e vídeo falsos para atrapalhar eleições e semear desconfiança na mídia de notícias. A Big Tech reconheceu prontamente a ameaça potencial dessas redes adversárias geradoras (GANs), chegando ao ponto de unir forças entre si para resolver o problema. Amazon, Facebook, Microsoft e a Partnership on AI recentemente solicitaram ajuda na criação de tecnologias de identificação deepfake de desenvolvedores em todo o mundo. O Deepfake Detection Challenge ( DFDC ) ofereceu mais de um milhão de dólares em prêmios.
Faciais Biases Reconhecimento
De acordo com o relatório NIST recente sobre tendências de reconhecimento facial, Face Recognition Vendor teste ( FRVT ) Parte 3: efeitos demográficos, afro-americanos experimentar as mais altas taxas de falsos positivos entre todas as raças. O NIST examinou a maioria dos algoritmos de reconhecimento facial – 189 algoritmos de software de 99 fornecedores – e descobriu que esses algoritmos afetavam desproporcionalmente os afro-americanos. Teme-se que tais ferramentas, se colocadas em prática, possam resultar em falsas acusações de pessoas inocentes.
Preocupações com a vigilância
Nos últimos meses, Pichai abordou os perigos das tecnologias de reconhecimento facial. Na verdade, ele prometeu que o Google nunca venderá seus algoritmos proprietários, pois teme que possam ser mal utilizados. A União Europeia também se preocupa com a tecnologia de reconhecimento facial, a ponto de cogitar uma moratória de cinco anos sobre o uso de reconhecimento facial em espaços públicos. Isso daria aos governos o tempo necessário para identificar regras e diretrizes éticas antes que a tecnologia seja implantada em larga escala.
Pichai, do Google, apóia essa moratória; no entanto, outros líderes da Big Tech não. Por exemplo, o presidente da Microsoft, Brad Smith, não apóia a moratória, nem promete não vender software de reconhecimento facial posteriormente. Dito isso, Smith concorda que é preciso haver mais regulamentação em geral.
Soluções potenciais
Embora grupos de lobistas poderosos, como o ITI, argumentem que qualquer regulamentação das tecnologias de IA sufocará a inovação, os riscos sociais de não regulamentar a IA são muito sérios para serem ignorados. O CEO da Tesla, Elon Musk, que admitidamente pode ser um pouco alarmista às vezes, acredita que a IA eventualmente será capaz de simular a consciência e “ nos superar em todos os sentidos”.
Um forte defensor da regulamentação da IA, Musk cofundou a OpenAI, uma empresa de pesquisa de inteligência artificial, e também convocou uma agência reguladora da IA, semelhante à FAA para aviação ou FDA para alimentos, medicamentos e dispositivos médicos.
Além de Pichai e Musk, outros executivos da Big Tech também ofereceram soluções. Os diretores da política da IBM criaram uma estrutura regulatória de IA que exige um oficial de ética de IA, verificação obrigatória de tendências, uma avaliação do potencial de dano e IA explicável (XAI).
Além disso, como a IA cada vez mais é executada em dispositivos IoT, incluindo smartphones, carros e wearables, o aprendizado de máquina federado pode ajudar do ponto de vista da privacidade. Aprendizagem federada é a prática de treinar seu algoritmo de IA no próprio dispositivo IoT. Em vez de enviar todos os dados algorítmicos para um servidor central ou nuvem, apenas resumos de dados relevantes são enviados de volta para o servidor central. Durante o aprendizado de máquina federado, as transferências de dados podem ser feitas ainda mais seguras por meio de criptografia homomórfica e privacidade diferencial.
Com relação ao gerenciamento de problemas de reconhecimento facial, seria prudente estabelecer uma moratória sobre tecnologias de vigilância em espaços públicos e também empregar camadas adicionais de proteção em dispositivos. Neste momento, essas camadas adicionais de proteção incluem tecnologias de “sorria para desbloquear” e “detecção de vivacidade”.
Por último, as forças atuantes por trás da regulamentação da IA devem vir de profissionais externos da indústria e associações comerciais. Atualmente, há apenas uma organização composta por participantes do setor e de outros setores: a Partnership on AI. Essas parcerias são um passo na direção certa.
Fonte: John Donegan Analista Enterprise da ManageEngine
Clique no botão abaixo e inicie avaliações gratuitas do nosso portfólio ManageEngine, contando sempre com a equipe ACSoftware.
ACSoftware revenda e distribuidora ManageEngine no Brasil. Fone / WhatsApp (11) 4063 9639.
PodCafé da TI – Podcast, Tecnologia e Cafeína.
