Estudo analisou decisões judiciais para identificar falhas, riscos e danos associados à IA; encontro acontece nesta segunda-feira, 14 de setembro.
A Universidade de São Paulo (USP) realiza nesta segunda-feira, 14 de setembro de 2026, um seminário dedicado a um problema que cresce junto com a expansão da inteligência artificial: como identificar e classificar incidentes provocados ou relacionados ao uso desses sistemas. O encontro, chamado “Classificação de Incidentes de IA”, começa às 14h, na Sala do Conselho Universitário, no campus da USP no Butantã, em São Paulo. A participação é gratuita mediante inscrição prévia, e também haverá transmissão pela internet. (Jornal da USP)
Promovido pela Cátedra IA Responsável, sediada no Instituto de Estudos Avançados (IEA) da USP, o evento apresentará resultados iniciais de uma pesquisa desenvolvida durante aproximadamente cinco anos no Centro de Inteligência Artificial (C4AI) da universidade. O estudo investigou decisões do Tribunal de Justiça do Estado de São Paulo (TJ-SP) em busca de situações envolvendo falhas, riscos, danos e outros efeitos adversos associados a sistemas de inteligência artificial. A discussão aproxima tecnologia, Direito e pesquisa acadêmica de problemas que já começam a aparecer no cotidiano da população. (Jornal da USP)
Pesquisa da USP analisou milhares de decisões judiciais envolvendo tecnologia
O trabalho apresentado no seminário acompanhou mensalmente decisões de segunda instância do TJ-SP e reuniu aproximadamente 30 mil acórdãos até agosto de 2026. Os pesquisadores utilizaram uma lista de 102 termos de referência e metodologias associadas à Organização para a Cooperação e Desenvolvimento Econômico (OCDE) e à Organização Internacional de Normalização (ISO). Depois desse processo, cerca de 600 acórdãos foram selecionados e analisados com maior profundidade. (Jornal da USP)
A intenção não era simplesmente descobrir quantas vezes a expressão “inteligência artificial” aparecia nos processos. Os pesquisadores procuraram identificar situações concretas em que tecnologias automatizadas poderiam estar relacionadas a falhas, danos, riscos ou consequências indesejadas. Essa abordagem é importante porque sistemas classificados genericamente como IA podem ser utilizados em atividades bastante diferentes, desde análise de dados até autenticação de identidade e tomada automatizada de decisões. (Jornal da USP)
Entre as ocorrências encontradas estão casos relacionados à biometria e ao reconhecimento facial, especialmente em processos que envolvem análises ligadas à concessão de crédito bancário. A coordenadora da pesquisa, Cristina Godoy, explicou ao Jornal da USP que esse conjunto de decisões ajudou a equipe a compreender como incidentes tecnológicos começam a chegar ao Judiciário e quais conceitos são utilizados para descrevê-los. (Jornal da USP)
Um dos resultados do trabalho é a criação de um glossário de termos relacionados a incidentes de inteligência artificial. O material deverá servir de base para o Observatório de Incidentes de IA da Cátedra IA Responsável desenvolver uma taxonomia-piloto e uma estrutura capaz de organizar conceitos e relações encontrados nos processos. Na prática, os pesquisadores procuram estabelecer maneiras mais consistentes de identificar e classificar diferentes tipos de problemas associados à tecnologia. (Jornal da USP)
Por que classificar incidentes de inteligência artificial se tornou importante?
A discussão ganha relevância à medida que ferramentas de inteligência artificial deixam os laboratórios e passam a participar de atividades cotidianas. Reconhecimento facial, análise automatizada de documentos, sistemas de recomendação, modelos generativos e mecanismos utilizados para auxiliar decisões são exemplos de tecnologias que podem atingir diretamente consumidores, estudantes, trabalhadores e empresas.
Quando esses sistemas falham, porém, nem sempre é simples definir o que aconteceu. Um problema pode decorrer de dados inadequados, erro de identificação, funcionamento inesperado do sistema, uso incorreto da ferramenta ou decisões humanas tomadas a partir de uma resposta automatizada. Criar categorias para esses incidentes pode facilitar pesquisas e permitir que especialistas identifiquem padrões recorrentes.
É justamente por isso que o seminário reúne diferentes áreas do conhecimento. Segundo a USP, o objetivo é aproximar perspectivas acadêmicas, jurídicas e tecnológicas para discutir como incidentes envolvendo IA podem ser identificados, descritos e classificados. A proposta mostra como o estudo da inteligência artificial dentro das universidades está deixando de ficar restrito à computação e alcançando áreas como Direito, ética, segurança e políticas públicas. (Jornal da USP)
O encontro contará com especialistas ligados à universidade e a outras instituições. Estão previstos debates sobre testes aplicados a produtos e serviços de inteligência artificial, incidentes ocorridos na internet e aspectos jurídicos relacionados aos sistemas de IA. Dessa maneira, diferentes tipos de conhecimento serão utilizados para analisar um mesmo desafio: compreender o que acontece quando uma tecnologia automatizada produz consequências negativas ou inesperadas. (Jornal da USP)
Como o debate sobre IA responsável chega à vida acadêmica?
O seminário também demonstra como a inteligência artificial está criando novas frentes de pesquisa dentro das universidades. Estudantes e pesquisadores de áreas como Computação, Direito, Administração, Engenharia e Ciências Sociais encontram um campo que exige conhecimentos multidisciplinares. Não basta desenvolver modelos mais avançados; existe uma demanda crescente para estudar segurança, transparência, responsabilidade e impactos sociais dessas ferramentas.
A pesquisa conduzida no C4AI é um exemplo dessa aproximação. Ao analisar decisões judiciais, pesquisadores conseguem observar problemas tecnológicos fora de situações puramente experimentais. Os processos permitem investigar como determinados conflitos aparecem na sociedade e quais dificuldades surgem quando consumidores, empresas, instituições e operadores do Direito precisam lidar com sistemas automatizados. (Jornal da USP)
Para a vida acadêmica, essa transformação também abre possibilidades de trabalhos científicos, iniciação científica, pesquisas de pós-graduação e projetos interdisciplinares. Áreas que anteriormente poderiam ter pouca relação direta com desenvolvimento de software agora precisam compreender consequências jurídicas e sociais da inteligência artificial. Ao mesmo tempo, profissionais de tecnologia passam a ter motivos para conhecer princípios de ética, proteção de dados, responsabilidade e segurança.
O seminário desta segunda-feira pretende contribuir justamente para essa aproximação. O evento será realizado às 14h, na Sala do Conselho Universitário da USP, na Cidade Universitária, no Butantã, e será conduzido em inglês, com tradução simultânea. Também haverá transmissão pelo canal do Instituto de Estudos Avançados. A participação presencial é aberta ao público e gratuita, mediante inscrição prévia. (Jornal da USP)
Ao transformar decisões judiciais em objeto de pesquisa sobre inteligência artificial, a USP coloca em discussão uma questão que tende a ganhar importância conforme a tecnologia se espalha. Identificar um incidente, entender sua origem e criar critérios para classificá-lo são etapas importantes para que universidades, empresas e poder público consigam estudar os riscos de maneira mais organizada. Para estudantes e pesquisadores, o assunto também mostra que o futuro da IA não será definido apenas por quem desenvolve algoritmos, mas por diferentes áreas acadêmicas que precisarão compreender seus impactos.
Fontes:
