A inteligência artificial já faz parte da rotina empresarial de muita gente. Está presente na elaboração de documentos, análise de informações, atendimento ao cliente, programação, criação de conteúdos e em diversas outras atividades que antes dependiam exclusivamente do trabalho humano. A utilização dessas ferramentas trouxe ganhos importantes de produtividade, mas também criou novos desafios. Quanto mais a IA passa a participar de processos internos, acessar informações e executar tarefas, maior é a necessidade de compreender quais são os limites da sua utilização e quem está supervisionando o que ela faz.
Os riscos já estão aparecendo
Um caso recente na Espanha divulgado pela Agência Espanhola de Proteção de Dados (AEPD) informou sobre um ataque cibernético onde um agente de inteligência artificial, teria identificado uma vulnerabilidade sistêmica e alterado dados pessoais sem intervenção humana. Segundo a autoridade, a apuração ainda depende de investigações adicionais.
Em outro cenário, o risco aparece de forma muito mais cotidiana. Uma pesquisa da SAP em parceria com a Oxford Economics apontou que 82% das organizações brasileiras pesquisadas têm funcionários que utilizam ferramentas de IA de terceiros sem autorização formal. Entre as empresas consultadas, 43% relataram vazamento de dados ou exposição de propriedade intelectual relacionados a esse uso.
Os dois exemplos mostram problemas diferentes, mas que têm um ponto em comum: a tecnologia pode estar sendo utilizada sem monitoramento adequado.
Proibir a IA resolve?
Bloquear todas as ferramentas pode até reduzir determinados riscos, mas também pode fazer com que os colaboradores procurem soluções alternativas sem qualquer orientação ou supervisão. Para efetividade, é preciso estruturar o uso. A empresa precisa definir quais ferramentas podem ser utilizadas, quais dados podem ser inseridos, quais informações são proibidas, quais funcionalidades estão autorizadas e quais atividades exigem validação humana. Não se trata de impedir a evolução da tecnologia. Trata-se de não confundir autonomia com ausência de responsabilidade.
O mundo também está se adaptando
Enquanto a empresa organiza suas próprias regras de uso, nações inteiras também estão criando regulações. A União Europeia saiu na frente com o AI Act, aprovado em 2024 e em aplicação gradual, estabelecendo obrigações diferentes conforme o risco de cada sistema, com exigências de transparência, segurança e supervisão humana. No Brasil, o PL 2.338/2023 segue o mesmo caminho: já passou pelo Senado, está na Câmara, e adota uma lógica parecida, baseada em risco. O recado por trás dessas leis é sempre o mesmo: a pergunta não é mais se vamos usar inteligência artificial. Ela já está sendo usada. A pergunta é como fazer isso de forma responsável, segura e compatível com os riscos envolvidos.
E as responsabilidades?
A regulamentação específica ainda está amadurecendo, mas isso não significa que a empresa deixa de responder por aquilo que acontece dentro da sua operação simplesmente porque uma IA participou do processo. Em regra, continuam sendo aplicáveis as normas já existentes, inclusive aquelas relacionadas à proteção de dados, relações de consumo, contratos e responsabilidade civil. Por isso, a adoção da IA precisa vir acompanhada de supervisão, regras claras e definição de responsabilidades. Afinal, a tecnologia pode executar a tarefa, mas não assume a responsabilidade por seus efeitos.
Fale com o Folha da Região!
Tem alguma sugestão de pauta ou quer apontar uma correção?
Clique aqui e fale com nossos repórteres.
