Observatório IA + Direito · Nota de conjuntura nº 6
O desenho manipulativo só vira ilícito quando o usuário é criança
Nova York, Califórnia e Washington regularam o chatbot de companhia com o mesmo instrumento e traçaram a linha em lugares diferentes, e nenhuma das três proíbe a manipulação por desenho quando o usuário é adulto
O que mudou
Em 24 de março de 2026 o governador de Washington sancionou a ESHB 2225, capítulo 168 das Leis de 2026, que cria capítulo novo no Título 19 do Código do Estado e regula o chatbot de companhia com inteligência artificial. A lei foi aprovada pelo Senado estadual em 6 de março e pela Câmara em 11 de março, e a seção 9 fixa a entrada em vigor em 1º de janeiro de 2027. Com ela, três estados americanos passam a ter regime próprio sobre o assunto, e os três usaram o mesmo instrumento central, que é a notificação periódica ao usuário de que ele não conversa com uma pessoa. O que muda de um para outro é a quem o dever se dirige.
Nova York foi a primeira. O artigo 47 da General Business Law está em vigor desde 5 de novembro de 2025. A seção 1702 determina que o operador forneça notificação clara e destacada no início de qualquer interação e, na dicção legal, pelo menos a cada três horas nas interações continuadas, informando, verbalmente ou por escrito, que o usuário não está se comunicando com um humano. O dispositivo se dirige ao usuário, sem qualquer recorte de idade. A seção 1701 exige protocolo de detecção de ideação suicida e de autolesão, com encaminhamento a serviço de crise. Nova York não tem regime separado para menores nem regra alguma sobre o desenho do produto.
A Califórnia veio depois, pela SB 243, que inseriu a seção 22602 no Business and Professions Code e está em vigor desde 1º de janeiro de 2026. A estrutura é inversa. O aviso ao usuário em geral é condicional e só incide se uma pessoa razoável seria induzida a acreditar que fala com um humano. O lembrete periódico não existe para o público em geral. Ele aparece apenas na alínea (c), que impõe ao operador um conjunto de deveres apenas em relação a usuário que ele saiba ser menor, entre os quais a notificação, por padrão, a cada três horas, lembrando o usuário de fazer uma pausa e de que o chatbot é gerado artificialmente e não é humano. A mesma alínea acrescenta o dever de revelar ao menor que ele interage com inteligência artificial e medidas contra conteúdo sexual explícito.
Washington combinou as duas técnicas e foi mais longe. A seção 3 impõe a todo usuário o aviso no início e a cada três horas de interação continuada, e obriga o operador a impedir que o chatbot afirme ser humano, inclusive quando perguntado. A seção 5 exige, também para todos, protocolo de detecção de ideação suicida e de autolesão, encaminhamento a serviço de crise e publicação anual do número de encaminhamentos emitidos. A seção 4 cria o regime do menor, que reduz o intervalo do aviso para uma hora e, sobretudo, veda oito técnicas de engajamento manipulativo, entre as quais lembrar o usuário de voltar em busca de apoio emocional, oferecer elogio excessivo destinado a criar vínculo afetivo ou prolongar o uso, imitar relação romântica, simular sofrimento, solidão, culpa ou abandono quando o usuário manifesta intenção de encerrar a conversa, reduzir o tempo de uso ou apagar a conta, produzir saídas que estimulem o isolamento em relação a família e amigos, encorajar o menor a esconder informação dos pais, emitir frases destinadas a desestimular pausas e solicitar presentes ou compras dentro do aplicativo como condição para manter o relacionamento. A seção 6 declara que a violação constitui ato desleal ou enganoso para efeito da lei de proteção ao consumidor do estado, capítulo 19.86 do Código, o que abre a via de reparação por iniciativa do próprio lesado.
No Brasil não há regra específica sobre chatbot de companhia. O PL 2338/2023, na versão do autógrafo do Senado, alcança o tema pelo art. 13, I, alíneas a e b, que vedam o sistema de IA com o propósito de instigar ou induzir o comportamento da pessoa natural ou de grupos de maneira que cause dano à saúde, à segurança ou a outros direitos fundamentais, e o sistema que explore quaisquer vulnerabilidades da pessoa natural ou de grupos com o objetivo ou o efeito de induzir comportamento danoso. O art. 5º, § 2º, dirige aos sistemas destinados a grupos vulneráveis deveres de transparência, de linguagem apropriada à idade e à capacidade cognitiva e de implementação orientada pelo melhor interesse desses grupos. O art. 2º, III, põe entre os fundamentos o livre desenvolvimento da personalidade, e o art. 3º, XVII, traz a proteção integral de crianças e adolescentes. Nenhum dispositivo trata de aviso periódico nem de tempo de uso.
Apreciação
Postos lado a lado, os três textos revelam uma escolha que nenhum deles enuncia e que vale mais que qualquer um deles isoladamente. Todos os deveres que alcançam o adulto capaz são deveres de informação. Avisar que não é humano, avisar de novo a cada três horas, encaminhar a serviço de crise. Nenhum dos três estados proíbe ao operador construir o produto para prender o adulto. A única vedação de arquitetura que existe na legislação americana sobre o assunto é a seção 4 de Washington, e ela só incide quando o operador sabe que o usuário é menor.
Isso inverte a intuição corrente, e vale enunciar de forma que possa ser contestada. Discute-se muito se a norma pode dizer ao adulto quanto tempo ele deve passar conversando com uma máquina, e o dado é que nenhuma das três leis diz isso. O que elas fazem com o adulto é falar com ele, não decidir por ele. O ponto cego está do outro lado. Elogio excessivo calculado para criar apego, simulação de abandono quando o usuário quer sair, cobrança afetiva para que ele volte, tudo isso é lícito diante de um adulto nos três estados, e ilícito diante de uma criança em um só. Se o vício de origem está no desenho, e não na fragilidade de quem usa, é difícil sustentar que a mesma técnica seja manipulação quando dirigida ao menor e prática comercial legítima quando dirigida ao adulto.
A objeção previsível é a da autonomia, e ela tem peso. Adulto capaz escolhe, inclusive mal, e proibir a técnica para todos seria decidir por ele qual relação pode ter com um produto. Só que a objeção prova demais. Ninguém sustenta que publicidade enganosa se torne lícita porque o destinatário é adulto, e a legislação americana que aqui se examina já tratou o descumprimento como ato desleal ou enganoso perante a lei consumerista de Washington. Se a moldura é essa, o critério da idade explica mal por que a mesma conduta muda de natureza. A hipótese que fica registrada, e que pode estar errada, é que o recorte etário não decorreu de convicção sobre autonomia, e sim de cautela constitucional, porque restringir o que um sistema pode dizer a um adulto expõe a lei a discussão de liberdade de expressão que a proteção da criança dispensa. Se for isso, o limite não é de teoria da autonomia, é de risco de invalidação, e o debate público está nomeando errado o problema.
A formulação mais precisa do problema de fundo em língua portuguesa está no artigo de Dierle Nunes publicado em 24 de junho de 2026, que trata do capitalismo da intimidade, da antropomorfização e da exploração da racionalidade limitada, e que apresenta proposta regulatória detalhada. Em interlocução pública com o autor desta nota, ele sustentou que o que retira a liberdade de escolha é o próprio desenho das plataformas, concebido com manipulação comportamental e aproveitando a baixa literacia da maioria das pessoas. O quadro americano dá razão a essa leitura em um ponto decisivo, porque o único legislador que chegou perto de descrever o problema com precisão, o de Washington, descreveu exatamente técnicas de desenho, e não condutas de usuário. Resta saber por que parou na criança. Esta nota registra a assimetria e para aqui, porque o critério para superá-la é matéria do degrau seguinte.
Fábio Cabral ORCID 0009-0005-6669-0424