IA deve aprender sobre valores sociais para não termos problemas

1 min de leitura
Imagem de: IA deve aprender sobre valores sociais para não termos problemas
Avatar do autor

Segundo uma dupla de pesquisadores, os profissionais que trabalham na criação e desenvolvimento de IAs precisam “ensinar” às suas máquinas valores sociais e humanos se não quisermos ter problemas no futuro. De acordo com os cientistas – Mona Sloane e Emanuel Moss, da Universidade de Nova York e da Universidade da Cidade de Nova York, respectivamente –, já existem indícios de que a IA pode perpetuar a discriminação, intensificar desigualdades e inclusive ocasionar danos nesse sentido e, portanto, os desenvolvedores devem cuidar para que suas criações, em vez de prejudicar, sirvam a sociedade da melhor forma possível.

Tecnologia social

Os pesquisadores defendem que estamos diante da emergência de um complexo sistema “tecnossocial” e, para que ele seja mais justo, democrático e equilibrado, engenheiros e programadores precisam incluir a mais ampla gama de noções sociais em suas IAs para reduzir o risco de que elas venham a causar danos à nossa sociedade.

(Fonte: EFFRA / Reprodução)

A dupla mencionou estudos que demonstraram que motores de busca podem fazer discriminação contra mulheres negras e, como você deve saber, existem muitos temores relacionados a como carros autônomos tomarão decisões diante de situações de acidente – em que terão de escolher entre atropelar um humano ou bater em um poste, por exemplo. Para evitar dilemas desse tipo e conquistar um desenvolvimento tecnológico que beneficie a humanidade como um todo, é preciso ensinar às máquinas como serem mais socialmente inteligentes também.

Os pesquisadores sabem que já existem profissionais preocupados em integrar ideias sociais em suas máquinas, para que elas atuem mais de acordo com os valores humanos, embora seja extraordinariamente difícil definir e codificar essas informações em uma máquina – sem falar que engenheiros e programadores tipicamente não são treinados para entender como diferentes categorias raciais e sociais em machine learning podem impactar organizações e a própria sociedade.

Assim a dupla sugere que métodos qualitativos de pesquisa social sejam adotados na criação e desenvolvimento das IAs, uma vez que essas técnicas normalmente exigem que os profissionais reflitam sobre como suas intervenções impactam o universo em que as observações são realizadas. Além disso, as pesquisas qualitativas podem ajudar programadores e engenheiros a ter um melhor entendimento sobre o histórico sociocultural e histórico por trás das diferentes categorias que compõem a nossa sociedade e de como a IA deverá se integrar nesse contexto.

Comentários

Conteúdo disponível somente online
Veja também
IA deve aprender sobre valores sociais para não termos problemas