Recentemente foi publicada uma pesquisa, realizada pela empresa Huawei, que descobriu uma falha em software de open source utilizado por muitos sistemas para reconhecimento facial. Esse estudo mostrou um leque de possibilidades para enganar o algoritmo de código aberto, através da vulnerabilidade encontrada.
A pesquisa do Centro de Pesquisa de Moscou da Huawei explica detalhadamente como “derrotar” o código usado para detectar se há um rosto em uma imagem ou não, o primeiro passo que acontece antes do sistema comparar esse rosto com um banco de dados de rostos conhecidos.
Segundo os pesquisadores, para burlar o sistema de reconhecimento facial, a pessoa deve utilizar códigos de escaneamento, semelhantes ao QR Code, e posicionar esse código no rosto a ser analisado. Esses tipos de código contém padrões de dados que corrompem o modo de funcionamento do software, fazendo com que ele perca a capacidade de reconhecer um rosto em até 95% dos casos analisados. O ataque ao software vira o algoritmo contra si mesmo.
O aspecto grave disso é que muitas ferramentas de reconhecimento facial comumente usadas são construídas com componentes de software de código aberto como este, que está disponível para todos.
Para desenvolver o hack utilizando adesivos, a equipe primeiro tirou fotos de si mesma com manchas xadrez em suas bochechas. Em seguida, eles criaram um algoritmo para alterar os padrões xadrez das bochechas nas imagens e testar se isso mudava a confiança do algoritmo de que havia um rosto na imagem. O algoritmo foi configurado para tentar comparar as imagens quadriculadas centenas de vezes, verificando sua confiança repetidamente, até que novas alterações não diminuíssem a probabilidade de detectar um rosto. Quando os patches xadrez alterados foram impressos e aplicados a um rosto na vida real, eles conseguiam contornar a segurança do detector de rosto.
Esta pesquisa certamente não é um golpe mortal para o reconhecimento facial – há apenas dois exemplos disso funcionando, e o documento observa explicitamente que uma vulnerabilidade como essa pode ser corrigida, o que significa que a Huawei provavelmente está estudando-a para proteger seu próprio I.A. Também não é o primeiro ataque desse tipo. Uma pesquisa de 2016 usou uma técnica semelhante para criar óculos que obscureceriam partes do rosto de um sujeito e enganariam uma máquina.
Considerando este exemplo, fica claro que é essencial manter uma política de segurança que inclua ações para controlar todos os aspectos dos sistemas utilizados, sejam eles desenvolvidos internamente na organização, ou mesmo se forem componentes externos usados pelo time de desenvolvimento, e como neste caso, software aberto.
Fonte: OneZero
