Interpretabilidad de AI

El glosario vivo de IA de TechCrunch explica términos de rápido cambio, desde la recurrencia opaca hasta los agentes de IA, ayudando a creadores y compradores a evaluar nuevas afirmaciones.

Una nueva investigación está intensificando el debate sobre si el razonamiento de la IA puede extraerse, agudizando las tensiones entre EE. UU. y China en torno a la distillation de modelos y el control.

Anthropic afirma que una nueva investigación sobre Claude encontró un espacio interno de razonamiento separable, una दावा que podría transformar la interpretabilidad y la seguridad de la IA.

CAS Institute of Software ha lanzado Reasoning Lens, una herramienta destinada a hacer más visible el razonamiento de los modelos de IA para la depuración, la confianza y la evaluación.

Investigadores de Anthropic indagan en el funcionamiento interno de la IA Claude a través del examen de neuronas y experimentos psicológicos para comprender la mente del sistema.