O Congresso Nacional discute um PL de Inteligência Artificial. O projeto de lei visa regulamentar o uso dessas tecnologias no país. Porém, apesar de parecer algo bom, a possível futura lei traz uma série de riscos para brasileiros e brasileiras.

A gente separou cada um dos problemas que o projeto pode trazer, se for aprovado. Confira!

1. Prisão ou detenção injusta 

O uso de tecnologias de reconhecimento e biometria facial já está espalhado no Brasil. Elas estão presentes nos serviços públicos, em lojas e também na segurança pública.

A questão é que essas tecnologias já se demonstraram falhas, incapazes de diferenciar especialmente as características de pessoas negras, indígenas e orientais. Com gente sendo presa sem terem cometido qualquer crime, confundidas pelo algoritmo com outras pessoas procuradas pela Justiça. Isso já ocorreu no Brasil em grandes eventos, como o carnaval de rua e jogos de futebol. 

O projeto de lei permite o uso do reconhecimento facial na segurança pública em praticamente qualquer situação, o que aumenta muito o risco de pessoas serem discriminadas e detidas ilegalmente. Além disso, o projeto não coloca a responsabilidade pelos danos causados por essa tecnologia diretamente em quem a produz ou em quem a utiliza. 

Um grande risco que vai fazer com que o uso dessa tecnologia seja ainda mais perigoso para as pessoas, principalmente as que já são alvo de preconceitos.

2. Falta de responsabilização

O projeto de lei traz dificuldades para a devida responsabilização na ocorrência de alguma falha pela inteligência artificial em situações em que não há uma relação de consumo. A vítima terá que provar se houve algum dano e qual foi o tamanho do prejuízo. 

Um exemplo disso é o reconhecimento facial de um serviço público falhar em reconhecer alguém, impedindo que essa pessoa consiga acessar, como em um Poupatempo ou no gov.br. Ou alguém não conseguir acessar o próprio condomínio por falha dessa tecnologia implementada para a entrada.

São vários os casos que podem ocorrer falhas na inteligência artificial, que dificultam a reivindicação das pessoas pelos próprios direitos para ter o prejuízo reparado. O projeto de lei agrava essa situação.

3. Score de crédito fora do PL de Inteligência Artificial

Outro tipo de tecnologia que utiliza a inteligência artificial é o score de crédito. Que é aquele sistema de pontuação que define se uma pessoa tem condições de ter direito a um empréstimo, cartão de crédito, financiamento de uma casa, etc.

Apesar de ser alimentado por IA, o projeto de lei nada fala sobre regulamentar esse sistema. O que é um problema grave para quem precisa de crédito para ter uma casa, um carro ou até para criar um novo empreendimento. 

Não se sabe quais informações são coletadas e usadas para formar a pontuação, mas há indícios de que fatores como raça e gênero podem afetá-la, o que agrava problemas de discriminação na sociedade. Sobretudo quando não há revisão humana dessa avaliação e da pontuação.

Como o sistema pode ser falho, é essencial que haja uma regulamentação para que ele seja supervisionado, revisado e corrigido por seres humanos. Porém, infelizmente, o PL de Inteligência Artificial não trata disso.

4. Golpes e fraudes

Um dos principais problemas das IAs é o uso delas para golpes e fraudes. Isso está cada vez mais comum no Brasil e no mundo e é essencial que os responsáveis por criarem essa tecnologia sejam responsabilizados por isso.

As deepfakes, por exemplo, que são aqueles sistemas que usam a imagem e a voz de determinada pessoa, mas colocando na boca dela um conteúdo diferente do que ela disse originalmente, é uma das principais formas de golpes e fraudes por IA atualmente.

Há ainda aplicativos que conseguem imitar a voz de pessoas com qualquer tipo de mensagem. O que também é um prato cheio para os golpistas. As possibilidades são inúmeras para incentivar golpistas a usarem IA para aumentar a quantidade e aperfeiçoar os métodos dos crimes.

O projeto de lei tira a responsabilidade dos criadores desses sistemas abertos e livres em caso de crimes. Uma situação extremamente perigosa, que vai aumentar e facilitar os golpes desse tipo no país.

5. Armas autônomas sem intervenção humana

Outro absurdo encontrado no projeto de lei é a permissão de uso de determinadas armas autônomas, aquelas que funcionam de forma automática, como um drone, sem a necessidade de um ser humano intervir de forma direta. 

O uso dessas armas pode gerar uma série de tragédias no país, com pessoas erroneamente identificadas sendo gravemente machucadas e até mesmo assassinadas. Tanto é que há um consenso internacional em banir esse tipo de tecnologia pelo risco envolvido aos cidadãos, exceto em situações de guerra.

6. Inteligência Artificial discriminatória

Mais um dos grandes problemas do uso de IA é que esses sistemas são potencialmente discriminatórios contra pessoas negras, indígenas, asiáticas, trans, idosas e outras. As tecnologias funcionam por meio de treinamento e esse processo, além de reproduzir desigualdades e preconceitos da sociedade, pode ter erros e não considerar a realidade brasileira em toda sua diversidade.

É essencial que o projeto de lei determine que todo e qualquer sistema utilizado no Brasil não seja discriminatório. 

Só assim a gente vai poder evitar ou, pelo menos, responsabilizar, caso alguém sofra com algum ato discriminatório feito pela tecnologia. Como a situação das pessoas que são presas injustamente por serem “confundidas” com criminosos pelos sistemas de reconhecimento facial.

7. Falta de participação social no PL de Inteligência Artificial

Uma situação importante tem a ver com o fato do PL não trazer de forma enfática e direta a necessidade de que toda e qualquer inteligência artificial aplicada no Brasil tenha que ser didaticamente e objetivamente explicada. 

Não apenas sobre o seu funcionamento, mas também sobre como ela foi feita, os riscos, as medidas de prevenção e qualquer outra informação que seja relevante.

Além disso, é essencial que tanto o projeto de lei quanto a aplicação de IA no país seja feita com participação social e de organizações da sociedade civil, como o Idec. Todas as discussões até o momento têm ocorrido de forma fechada, sem permitir a representação de vozes da população, mas com a presença de empresas interessadas na venda de tecnologias de IA.

O uso de inteligência artificial é um avanço tecnológico que pode ser muito perigoso para toda a sociedade, principalmente para as pessoas que historicamente mais sofrem com os problemas sociais do Brasil. Por isso, é muito importante a participação social, além de muito cuidado e detalhamento de tudo que está escrito no projeto antes que ele se torne uma lei.

O Idec trabalha para que o PL de Inteligência Artificial e outros estejam de acordo com os direitos das pessoas consumidoras. Quer saber mais sobre o nosso trabalho? É só assinar a newsletter logo abaixo!