Regulação da IA: segurança também define a concorrência
Exigências proporcionais ao risco e fiscalização independente podem proteger usuários sem fechar o mercado.
Regulação da IA: quem define segurança também desenha a concorrência
Uma empresa de inteligência artificial olha para uma proposta de lei que pode aumentar suas obrigações e diz: os benefícios provavelmente superam os custos. Foi a posição da Anthropic sobre uma proposta de segurança para IA na Califórnia, segundo reportagem da Reuters de agosto de 2024. Minha atenção vai para a segunda metade dessa conta: quem consegue pagar os custos?
O apoio não prova uma tentativa de excluir concorrentes. Empresas podem reconhecer os riscos dos próprios produtos e defender limites legítimos. Só que uma regra pode nascer de uma preocupação sincera com a segurança e acabar favorecendo quem já tem dinheiro, infraestrutura e advogados.
É o efeito da regra, e não a intenção declarada de seus defensores, que precisa passar pelo escrutínio público. Defendo exigências proporcionais ao risco, com provas verificáveis e fiscalização independente. O preço de demonstrar responsabilidade não pode virar uma reserva de mercado.
Segurança para quem, comprovada por quem?
“Segurança” parece uma palavra consensual até alguém precisar traduzi-la em obrigações. A disputa começa na escolha dos testes e de quem pode validar seus resultados. Continua quando o produto muda e alguém precisa decidir quanto do trabalho será refeito.
Essas decisões distribuem poder econômico. Exigir documentação pode ajudar a identificar falhas e atribuir responsabilidades; exigir documentos vagos ou excessivos pode consumir recursos sem proteger ninguém. Uma pilha de relatórios não é, por si só, evidência de qualidade.
Há uma diferença decisiva entre cobrar desempenho adequado para uma aplicação e obrigar todo fornecedor a reproduzir a estrutura de controle de um grande laboratório. No primeiro caso, a regra estabelece o resultado esperado. No segundo, corre o risco de transformar o jeito de operar das empresas dominantes em obrigação para o restante do mercado.
Os grandes laboratórios precisam participar da discussão: têm conhecimento técnico e devem responder pelos riscos que criam. Mas não podem acumular os papéis de autor da regra, examinador e juiz do próprio desempenho. Ouvir quem conhece a tecnologia é sensato; entregar a essa empresa a definição do que conta como prova suficiente é outra história.
A mesma conta pesa diferente
Imagine duas empresas preparando um assistente de atendimento para o varejo brasileiro. Uma tem equipes próprias de segurança e privacidade, com assessoria jurídica à disposição. A outra reúne poucos profissionais e contrata ajuda externa quando precisa.
Ambas devem proteger os dados dos consumidores e responder pelas decisões sob seu controle. Mas uma obrigação com custo fixo elevado chega de maneira muito diferente aos dois orçamentos: a maior distribui a despesa entre vários produtos e clientes; a menor talvez precise adiar uma contratação ou desistir da aplicação.
Não é necessário haver má-fé para esse efeito aparecer. A regulação pode favorecer quem já está estabelecido mesmo que ninguém tenha escrito uma linha com esse objetivo. Por isso, o custo de cumprir a regra deve entrar na avaliação da política pública, junto com os danos que ela pretende evitar.
Pense numa empresa brasileira que usa um modelo de terceiros para criar um serviço de agendamento para clínicas ou de atendimento para lojas. Ela desenvolveu a aplicação, não necessariamente o modelo que a sustenta. Cobrar testes que dependam de acesso à infraestrutura interna do fornecedor seria exigir uma prova que talvez esteja fora de seu alcance técnico.
A responsabilidade deve acompanhar o controle efetivo. O desenvolvedor do modelo responde pelo que constrói e pelas informações que fornece; quem adapta e coloca a aplicação em uso responde pelas escolhas que faz. Essa divisão precisa ser clara o bastante para evitar tanto a cobrança impossível quanto o conhecido jogo de empurrar a culpa.
O risco manda, não o departamento jurídico
Uma ferramenta que sugere legendas para uma loja de roupas e um sistema que influencia decisões de crédito não deveriam enfrentar a mesma carga de exigências. As consequências de um erro são diferentes. A escala de uso e o grau de autonomia do sistema também precisam pesar nessa conta.
Essa abordagem conversa com os Princípios de IA da OCDE, que articulam inovação, direitos humanos, transparência, robustez e responsabilização. A dificuldade está em transformar compromissos amplos em procedimentos que funcionem. Nem licença para experimentar com a vida alheia, nem burocracia aplicada por atacado.
Para uma aplicação de menor risco, documentação simplificada e informação clara ao usuário podem fazer sentido, acompanhadas de um canal para relatar problemas. Onde uma falha pode causar danos graves, a cobrança deve aumentar. Isso pode incluir testes mais rigorosos e rastreabilidade, com supervisão humana e mecanismos de interrupção adequados ao caso.
O contraponto é legítimo: empresas podem tentar enquadrar seus produtos na categoria mais confortável. Concordo com a preocupação, mas não com a resposta de tratar tudo como igualmente perigoso. A classificação precisa ter justificativa pública, admitir contestação e passar por revisão quando o uso real se afastar do declarado.
Também não defendo salvo-conduto para startups. Uma empresa pequena pode colocar um produto de alto risco no mercado. Proporcionalidade não é desconto por porte; é correspondência entre obrigação e risco. A concorrência não justifica reduzir a proteção de quem pode sofrer o dano.
Quem fiscaliza precisa poder dizer “não”
“IA confiável” funciona bem num discurso. Numa inspeção, diz pouco se ninguém souber quais falhas testar ou que evidências bastam para demonstrar o cumprimento de uma obrigação. Critérios verificáveis servem tanto para cobrar uma empresa quanto para contestar uma aprovação.
A fiscalização precisa de capacidade técnica e orçamento para não depender da palavra de quem fiscaliza. Precisa também de regras contra conflitos de interesse: contratar um avaliador externo não garante independência se o negócio dele depende de agradar ao avaliado. As conclusões dos examinadores também devem poder ser revistas.
Há espaço para reduzir custos sem afrouxar a cobrança. Documentação padronizada e orientações públicas evitam que cada empresa tenha de interpretar tudo do zero; métodos de teste reutilizáveis podem reduzir retrabalho. Ambientes supervisionados de experimentação também podem ajudar, desde que tenham limites claros e não autorizem a transferência de riscos aos usuários.
Para você que precisa decidir orçamento, produto e contratação, saber o que será exigido tem valor concreto. Uma promessa genérica de liberdade não oferece a mesma previsibilidade. Já a regra ambígua costuma ser mais fácil de suportar para quem mantém uma equipe dedicada a interpretá-la.
Apoiar uma lei de segurança pode ser uma atitude responsável. O teste está no texto da lei e em sua aplicação: a despesa imposta compra proteção de verdade ou só encarece a entrada no mercado?
Eu quero instituições capazes de exigir provas dos gigantes e de reconhecer quando uma empresa menor já apresentou provas suficientes. Se só quem tem o maior departamento jurídico consegue ser considerado seguro, talvez estejamos medindo a coisa errada.
Fontes consultadas
Receba ideias mais inteligentes para o seu marketing.
Análises, ferramentas e estratégia direto da Império.
Sem ruído.