Lei de IA da UE e ferramentas de IA para autistas

Bruxelas está detalhando nestas semanas quais sistemas de IA são considerados de alto risco. Para a IA na saúde e na educação, a questão é crucial. O Autistic Mirror fica deliberadamente fora dessa categoria. O que isso significa na prática.

O que está em jogo, em duas frases

A Lei de IA da UE (EU AI Act) é o primeiro regulamento que classifica sistemas de IA de acordo com o risco. Onde se trata de diagnósticos, vagas escolares, acesso à reabilitação ou decisões de RH, aplicam-se as normas mais rigorosas. É exatamente aí que se decide quais ferramentas de IA as pessoas autistas podem usar com segurança e quais não são jurídica ou eticamente viáveis.

O que a Lei de IA da UE regula

O Regulamento de IA (Regulamento UE 2024/1689)^[1] está em vigor desde agosto de 2024 e torna-se aplicável em fases. Proibições de certas práticas e o dever de competência em IA (Artigo 4) aplicam-se desde 2 de fevereiro de 2025. As obrigações para modelos de IA de uso geral aplicam-se desde 2 de agosto de 2025. A data crucial para a maioria dos provedores é 2 de agosto de 2026: a partir desta data, entram em vigor os requisitos totais para sistemas de IA de alto risco de acordo com o Anexo III.^[1]

O regulamento define quatro níveis de risco: práticas proibidas, sistemas de alto risco, sistemas de risco limitado e sistemas de risco mínimo. O nível decide o catálogo de obrigações.

Onde está o limite para a IA na saúde e educação

O Anexo III lista as áreas em que os sistemas de IA são automaticamente considerados de alto risco.^[1] Três delas afetam particularmente o discurso nos círculos de RH e educação: educação e formação profissional, emprego e gestão de pessoal, acesso a serviços essenciais, incluindo prestações de saúde e sociais. Quem prepara ou toma decisões nestas áreas entra no corredor de alto risco.

O Anexo I também vincula a IA à legislação de dispositivos médicos. Assim que uma IA funciona como componente de segurança de um dispositivo médico ou como diagnóstico in vitro, ela é considerada de alto risco, independentemente do caso de uso.^[3][5]

O Artigo 6, parágrafo 3, oferece uma exceção restrita: se um sistema assume apenas uma tarefa preparatória ou puramente técnica e não cria um risco substancial para os direitos fundamentais, ele pode sair da categoria de alto risco, apesar de estar na área do Anexo III. No entanto, assim que ocorre definição de perfis (profiling), ou seja, avaliação automatizada de aspectos pessoais, a exceção não se aplica mais.

Por que o Autistic Mirror não é uma IA de alto risco

O Autistic Mirror não é expressamente um dispositivo médico. Esta posição consta na Política de Privacidade, seção 2.4, e nos Termos de Uso. Não há diagnóstico, nem terapia, nem triagem, nem recomendação de medidas médicas. A tarefa é estritamente definida: explicar mecanismos neurológicos da experiência autista e apoiar a autorreflexão.

Quatro pontos sustentam a classificação fora do corredor de alto risco:

1. Não é um dispositivo médico conforme MDR/IVDR.^[3][5] Portanto, o Anexo I não se aplica.
2. Nenhuma função preparatória de decisão em educação, emprego ou acesso a serviços essenciais. O app não avalia pessoas, não tria currículos, não atribui vagas escolares ou de reabilitação. Assim, os três pilares críticos do Anexo III não se aplicam.
3. Nenhuma definição de perfis (profiling) nos termos do Artigo 4, n.º 4 do RGPD. As informações de integração (papel, condições coexistentes, faixa etária) configuram exclusivamente a definição do prompt do sistema. Não ocorre avaliação automatizada de aspectos pessoais, nem previsão sobre comportamento, desempenho ou saúde. Assim, a exceção do Artigo 6, parágrafo 3, permanece aplicável.
4. Nenhuma decisão automatizada nos termos do Artigo 22 do RGPD.^[2][7] Não resultam efeitos jurídicos ou impactos significativos semelhantes do seu uso. As respostas são explicativas, não decisórias.

O aplicativo não fornece aconselhamento em sentido clínico. Se os usuários perguntarem explicitamente por um caminho de diagnóstico ou tratamento, um filtro de saída (output filter) é acionado, rejeitando a solicitação e encaminhando para profissionais especializados. Isso não é uma autocensura, mas a linha clara entre explicação e recomendação.

Sem reconhecimento de emoções, sem categorização biométrica

O Artigo 5, parágrafo 1, alínea f da Lei de IA da UE proíbe sistemas de reconhecimento de emoções no local de trabalho e em instituições de ensino.^[1][4] O Autistic Mirror não realiza reconhecimento de emoções. Não há processamento de áudio, nem análise de câmera, nem análise de voz ou face, nem categorização biométrica. As entradas são texto livre. O app exclui assim uma prática que seria particularmente arriscada para pessoas autistas, porque sua expressão emocional é sistematicamente mal interpretada.

Obrigações de transparência conforme o Artigo 50

Mesmo fora do corredor de alto risco, as obrigações de transparência do Artigo 50 aplicam-se a partir de 2 de agosto de 2026. Os usuários devem ser capazes de reconhecer que estão interagindo com um sistema de IA. O Autistic Mirror cumpre isso de forma consistente: nome do produto, integração, política de privacidade e cada resposta são identificados como gerados por IA. Não há imitação de aconselhamento humano, nem relação terapêutica simulada.

Provedor, implantador e classificação GPAI

O Autistic Mirror é o provedor (provider) nos termos da Lei de IA da UE. Organizações que distribuem o app aos seus colaboradores no âmbito de uma licença B2B são implantadores (deployers) e assumem as obrigações do Artigo 26, na medida em que sejam aplicáveis. Como o Autistic Mirror não é de alto risco, essas obrigações limitam-se essencialmente a regras internas de uso e informação aos funcionários. O modelo de linguagem subjacente é um modelo de IA de uso geral (GPAI) de um fornecedor terceirizado. As obrigações de GPAI do Capítulo V cabem ao provedor do modelo, não ao Autistic Mirror.

Por que isso é importante para pessoas autistas

Quando uma IA genérica em um contexto de aconselhamento, escola ou trabalho emite uma recomendação comportamental, como "pratique contato visual" ou "reduza o stimming", ela interfere profundamente na experiência autista. Sem um profissional especializado mediando. Sem explicação do mecanismo. Tais recomendações seguem frequentemente uma lógica que quer suprimir em vez de entender as reações autistas.

A Lei de IA da UE aborda exatamente esse risco. Ela obriga os provedores a se declararem: estou fazendo diagnósticos ou recomendações com impacto na educação, profissão ou saúde, ou estou permanecendo na explicação. A linha divisória não apenas protege os provedores de auditorias, ela protege pessoas autistas de ferramentas que querem corrigir sua neurologia em vez de explicá-la.

O que as obrigações de alto risco custariam concretamente

Quem está no corredor de alto risco deve estabelecer um regime de conformidade completo: gestão de riscos documentada, governança de dados com prova de dados de treinamento, documentação técnica, obrigações de registro (logging), supervisão humana, medições de precisão e robustez, avaliação de conformidade. Em casos do Anexo I, acrescenta-se um organismo notificado.

Um estudo muito citado do Centre for European Policy Studies estima o esforço inicial de conformidade para um único sistema de IA de alto risco em cerca de 29.277 euros, complementado por custos anuais de cerca de 71.400 euros para um sistema de gestão de qualidade certificado, em cada caso sem custos de pessoal interno e sem auditorias subsequentes.^[6] Para uma equipe pequena, isso só é suportável se o caso de uso for de fato de alto risco. A resposta a isso não é contornar as obrigações, mas delimitar o caso de uso de forma limpa.

O que cumprimos voluntariamente apesar disso

Mesmo fora do corredor de alto risco, aplicam-se o RGPD, a ePrivacy e as regulamentações nacionais. O Autistic Mirror cumpre cinco famílias de conformidade em paralelo: ISO/IEC 27001 Anexo A para segurança da informação, OWASP Top 10 para segurança de aplicações, RGPD Artigos 5, 9, 22, 25, 32, 35, EN ISO 9241 partes 110 a 210 para ergonomia de software e WCAG 2.1 Nível A e AA para acessibilidade. Além disso, uma arquitetura de segurança de 5 camadas com filtro anti-ABA, detecção de crise, filtro de segurança de saída, detecção de injeção e buffer-then-send.

A avaliação de impacto sobre a proteção de dados conforme o Artigo 35 do RGPD está documentada, assim como o registro de atividades de tratamento conforme o Artigo 30. As medidas técnico-organizativas conforme o Artigo 32 estão detalhadas. Não ocorre rastreamento, nem venda de dados, nem treinamento de modelos com conteúdo de usuários.

Como isso se diferencia da IA genérica

Um chatbot genérico sem especialização pode, a qualquer momento, deslizar involuntariamente para uma linguagem de diagnóstico, dar recomendações terapêuticas ou sugerir estratégias baseadas em ABA. Com isso, ele se move em um espaço jurídico obscuro assim que é usado para questões de saúde ou educação, e em um espaço ético crítico assim que encontra pessoas autistas.

O Autistic Mirror possui um prompt fixo de "mecanismo primeiro" e um filtro de saída que bloqueia recomendações de diagnóstico e conteúdo ABA. Assim, a ferramenta permanece na área permitida, sem retirar dos usuários a profundidade técnica. Explicação em vez de recomendação. Mecanismo em vez de diagnóstico.

IA Genérica

Espaço de temas aberto. Sem bloqueio de diagnóstico. Sem filtros ABA. Sem detecção de crise. Respostas otimizadas para plausibilidade, não para fidelidade neurológica.

Autistic Mirror

Caso de uso restrito: explicar o mecanismo. Filtro de saída contra recomendações de diagnóstico e tratamento. Filtro anti-ABA. Detecção de crise redundante no frontend e backend. Buffer-then-send, para que cada resposta seja verificada antes da exibição.

Uma perspectiva positiva

A regulamentação é frequentemente vivida como um obstáculo. No caso da Lei de IA da UE, ela é uma oferta de clareza: ela força os provedores a decidirem se querem assumir a responsabilidade diagnóstica ou não. Ferramentas que explicam mecanismos em vez de fazer diagnósticos podem escalar seriamente sem cair no corredor de alto risco. Este é simultaneamente o caminho juridicamente limpo e o eticamente resiliente. Para pessoas autistas, isso significa: a ferramenta permanece utilizável, sem que ninguém se coloque entre elas e sua própria neurologia.

O Autistic Mirror explica a neurologia autista de forma individual, referindo-se à sua situação. Seja para você mesmo, como pai/mãe ou como profissional.

Fontes

1. Parlamento Europeu e Conselho: Regulamento (UE) 2024/1689 que estabelece regras harmonizadas em matéria de inteligência artificial (Lei da Inteligência Artificial), 13 de junho de 2024. eur-lex.europa.eu/eli/reg/2024/1689/oj
2. Parlamento Europeu e Conselho: Regulamento (UE) 2016/679 (RGPD), 27 de abril de 2016. eur-lex.europa.eu/eli/reg/2016/679/oj
3. Parlamento Europeu e Conselho: Regulamento (UE) 2017/745 relativo aos dispositivos médicos (MDR), 5 de abril de 2017. eur-lex.europa.eu/eli/reg/2017/745/oj
4. Comissão Europeia: Guidelines on prohibited AI practices under the AI Act (C(2025) 884 final), fevereiro de 2025. digital-strategy.ec.europa.eu
5. Medical Device Coordination Group: MDCG 2019-11 Rev.1, Qualification and Classification of Software in Regulation (EU) 2017/745 and Regulation (EU) 2017/746, 2024. health.ec.europa.eu
6. Renda, A. et al., Centre for European Policy Studies: Clarifying the costs for the EU's AI Act, 2021. ceps.eu
7. Comitê Europeu para a Proteção de Dados (EDPB): Orientações e pareceres sobre o Artigo 22 do RGPD. edpb.europa.eu
8. Comissão Europeia, AI Office: Application and timelines of the AI Act. digital-strategy.ec.europa.eu/en/policies/ai-office