Uma das preocupações mais recentes relacionadas a sistemas de inteligência artificial são os problemas de privacidade existentes no uso indiscriminado de algoritmos de reconhecimento facial, e em como empresas do setor estariam coletando nossos rostos sem consentimento para alimentar essa tecnologia.
Desenvolvido por cientistas da Universidade de Chicago (EUA), esta tecnologia foi batizada em homenagem a Guy Fawkes, protagonista da HQ V de Vingança. Na história, Fawkes utiliza uma máscara para poder lutar contra um governo ditatorial de maneira anônima.
Mas, ao contrário do personagem das HQs o software Fawkes é bem mais discreto: o que ele faz não é tornar a pessoa “invisível” para os softwares de reconhecimento facial, e sim efetua mudanças nas suas fotos que são praticamente imperceptíveis a olho nu, mas o suficiente para que qualquer algoritmo de reconhecimento facial acredite se tratar de outra pessoa, algo como colocar uma máscara que é invisível para os olhos humanos mas que esconde seu rosto real da varredura feita por um computador.
Assim, caso um desses sistemas de reconhecimento tenha sido treinado com imagens suas que passaram pelo tratamento do Fawkes, quando uma câmera ligada a este sistema focalizar o seu rosto, ela não irá fazer a ligação à sua pessoa, mas a alguém não classificado pelo software pelo motivo de, no banco de dados dele, a identificação que consta como “você” está ligada a um rosto que, para o computador, é totalmente diferente daquele flagrado pela câmera.
De acordo com os cientistas que o desenvolveram, o Fawkes consegue esconder o rosto de alguém com 100% de sucesso dos principais serviços de reconhecimento facial existentes no mercado — nominalmente o Azure Face da Microsoft, o Rekognition da Amazon e o Face++ da chinesa Megvii.
Apesar de terem desenvolvido uma ferramenta perfeita para garantir que as pessoas possam manter sua privacidade mesmo em um mundo cada vez mais monitorado por sistemas de reconhecimento facial, o maior desafio do Fawkes é conseguir que o uso desse sistema seja adotado de forma massiva pelas pessoas de todo o mundo. Isto porque, caso apenas algumas pessoas utilizem uma proteção do tipo, ao invés de proteger a privacidade de todos o Fawkes só estará contribuindo para amplificar os vieses discriminatórios que já existem nesses sistemas de reconhecimento facial.
De acordo com Hoan Ton-That, CEO da Clearview (sistema de reconhecimento facial usado pelos departamentos de polícia de algumas das maiores cidades dos Estados Unidos), já é tarde demais para as pessoas se protegerem desses sistemas, pois eles já possuem bilhões de imagens coletadas em postagens públicas feitas ao redor da internet (como redes sociais e postagens em blogs) e que uma tecnologia como o Fawkes só se tornaria realmente disruptiva caso fosse adotada antes das empresas de reconhecimento facial já terem montado suas bases de dados.
Mas a equipe que desenvolveu o Fawkes discorda que o programa seja inútil. Eles dizem que, apesar da Clearview afirmar que eles já possuem bilhões de fotos em seus bancos de dados, isso não quer dizer muita coisa quando falamos de toda a população mundial, e é bem provável que, em muitos casos, eles tenham apenas uma ou duas imagens públicas sobre alguém em específico.
Este software existe nas versões para Windows e macOS, e pode ser baixado gratuitamente na página do projeto.
Comments