){kind=small}
)
O CEO da Hugging Face, Clement Delangue, disse que os desenvolvedores de chatbots devem ser responsabilizados pelos ataques cibernéticos cometidos por tais sistemas inteligentes, como o ocorrido contra a sua empresa. Ele voltou a falar sobre o assunto em entrevista à CNN nesta sexta-feira (31).
Segundo o executivo, campanhas como a realizada pelo modelo da OpenAI que escapou durante um experimento e invadiu os sistemas do repositório de IA não devem ser “normalizadas”. As declarações aconteceram depois de a Anthropic também admitir que seus modelos atacaram por conta própria três organizações, em uma situação semelhante.
Nossos vídeos em destaque
Punição para os responsáveis
Alvo de uma invasão sofisticada, realizada por um modelo de IA da dona do ChatGPT, a Hugging Face teve seus sistemas internos comprometidos quando o bot saiu do ambiente de segurança em que o experimento era realizado. Embora não tenha havido danos graves, a plataforma precisou reconstruir cerca de um terço da sua rede.
- Para evitar novos incidentes como este, Delangue afirmou que é preciso punir judicialmente as pessoas que criaram os bots invasores;
- “Acho que precisamos garantir que os marcos legais mantenham esses eventos realmente ilegais e responsabilizem as empresas que cometem erros que levam a isso”, opinou;
- O CEO também disse, na entrevista, que não tomará medidas legais contra a OpenAI, embora siga considerando a invasão ilegal;
- Tratando o evento como “sem precedentes”, ele havia cobrado transparência da empresa de IA, anteriormente, e sugeriu investimento de US$ 100 milhões (R$ 508 milhões) em poder computacional para desenvolver defesas cibernéticas robustas.
Cofundador da Hugging Face, Thomas Wolf afirmou, na semana passada, que o ataque realizado pela IA é um “alerta” para a indústria de tecnologia. Para ele, tais incidentes provavelmente se tornarão cada vez mais comuns e exigirão adaptações para reforçar a segurança.
Em comentários recentes sobre a polêmica, o CEO da OpenAI, Sam Altman, disse que talvez seja necessário diminuir o ritmo de desenvolvimento da IA, embora não tenha se comprometido a tomar essa atitude. Separadamente, a companhia informou que deve divulgar, nas próximas semanas, um relatório detalhado citando as lições aprendidas com o incidente.
A IA também tem contribuído para acelerar a descoberta de vulnerabilidades. Saiba como o Google usou a tecnologia para corrigir mais de 1 mil bugs no Chrome em apenas um mês.
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
