Interpretabilidade de AI

O glossário vivo de IA da TechCrunch explica termos em rápida mudança, da recorrência opaca aos agentes de IA, ajudando construtores e compradores a avaliar novas alegações.

Uma nova pesquisa está intensificando o debate sobre se o raciocínio da IA pode ser extraído, acirrando as tensões entre EUA e China em torno da distillation de modelos e do controle.

A Anthropic afirma que uma nova pesquisa sobre o Claude encontrou um espaço interno de raciocínio separável, uma alegação que pode remodelar a interpretabilidade e a segurança em IA.

O CAS Institute of Software lançou o Reasoning Lens, uma ferramenta voltada a tornar o raciocínio dos modelos de IA mais visível para depuração, confiança e avaliação.

Pesquisadores da Anthropic investigam o funcionamento interno da IA Claude por meio da análise de neurônios e de experimentos psicológicos para compreender a mente do sistema.