Google e Microsoft alertam investidores sobre riscos com IA

O futuro das gigantes da tecnologia, em especial da Google e da Microsoft, está intimamente ligado ao desenvolvimento da inteligência artificial (IA) — não para o aprimoramento de seus atuais produtos e serviços como também para a criação de novas frentes. Por isso, é preciso ter muita responsabilidade nesse setor, pois um grande vacilo pode trazer consequências trágicas para uma marca.

E esse foi um assunto de destaque nos chamados “10-K forms”, que são os relatórios anuais de performance das companhias — uma exigência do U.S. Securities and Exchange Comission (SEC), órgão regulador do mercado nos Estados Unidos. No texto, tanto a Alphabet (conglomerado do qual faz parte a Google) quanto a Microsoft falaram pela primeira sobre “fatores de risco” envolvendo a IA.

‘Se oferecermos soluções controversas, poderemos causar danos à marca ou reputação’, diz Microsoft

A Microsoft disse o seguinte, em agosto de 2018: “Algoritmos podem ser falhos. Os conjuntos de dados podem ser insuficientes ou conter informações tendenciosas. Práticas de dados inadequadas ou controversas da Microsoft ou de outras empresas podem prejudicar a aceitação de soluções de inteligência artificial. Essas deficiências podem minar as decisões, previsões ou análises que os aplicativos de IA produzem, sujeitando-nos a danos competitivos, responsabilidade legal e danos à marca ou à reputação. Alguns cenários de IA apresentam problemas éticos. Se habilitarmos ou oferecermos soluções de IA que são controversas devido ao seu impacto nos direitos humanos, privacidade, emprego ou outras questões sociais, poderemos causar danos à marca ou à reputação”.

Já a Alphabet, destacou na semana passada: “Novos produtos e serviços, incluindo aqueles que incorporam ou utilizam inteligência artificial e aprendizado de máquina, podem criar ou destacar desafios econômicos, tecnológicos e legais, entre outros desafios que possam afetar negativamente nossas marcas e a demanda por nossos produtos e serviços — e afetar adversamente nossas receitas e resultados operacionais”.

Por que essa preocupação só agora?

Sabemos desde antes de filmes sobre a Skynet que uma IA pode causar grandes danos, em diversas esferas, caso não haja cuidado em seu desenvolvimento. Mas por que essas companhias, que já trabalham com certa complexidade de profundidade no setor, só manifestaram esses fatores de risco pela primeira vez agora?

Empresas andaram derrapando em alguns projetos com IA, o que aumenta a preocupação sobre o futuro no setor

Provavelmente porque a conscientização do grande público — e mesmo da indústria — sobre o tema seja considerado algo recente. Somente nas últimas temporadas é que vimos como as coisas podem realmente dar errado. Incluam nesse bolo o flerte militar do Projeto Maven, da Google, com o Pentágono; os problemas éticos envolvendo a tecnologia de reconhecimento facial da Amazon; ou a incompetência do Facebook em lidar com seus algoritmos no escândalo Cambridge Analytica.

Embora nem o Facebook e nem a Amazon tenham incluído essa seção de “fatores de risco” envolvendo a IA, somente o fato da Alphabet e da Microsoft terem iniciado o processo de discussão em um documento tão importante já é pelo menos um avanço no debate sobre algo que estará cada vez mais presente em nosso cotidiano nos próximos anos. Aguardamos cenas dos próximos capítulos.