---

En estos días, uno de los despachos de abogados más prestigiosos de Wall Street protagonizó uno de los errores más comentados en el mundo legal reciente. Sullivan & Cromwell se vio obligado a disculparse ante un juez federal tras presentar un escrito judicial que contenía alrededor de 40 citas incorrectas y otros errores causados por alucinaciones de inteligencia artificial.

El incidente ocurrió en el marco de un caso de quiebra. El caso involucra la liquidación de Prince Global Holdings Limited, un conglomerado camboyano cuyos propietarios fueron acusados por el Departamento de Justicia de operar una red de estafas digitales. En ese contexto, Sullivan & Cromwell, que representa a los liquidadores de las entidades involucradas, presentó una moción de emergencia que citaba casos equivocados o inexistentes, números incorrectos y títulos de artículos inexactos.

Andrew Dietderich, co-director del equipo de reestructuración global del despacho, tuvo que escribir una carta al Juez Martin Glenn del Tribunal de Quiebras del Distrito Sur de Nueva York. El escrito de corrección del 18 de abril incluía una versión redactada del documento original marcando los errores, algunos de los cuales implicaban la corrección de oraciones enteras. El error no fue detectado internamente: las equivocaciones fueron identificadas por el equipo de abogados contrarios, del despacho Boies Schiller Flexner.

Lo que hace este caso especialmente llamativo es que Sullivan & Cromwell es precisamente el despacho que asesora a OpenAI sobre el «despliegue seguro y ético» de la inteligencia artificial, una representación que la firma destaca en su propio sitio web. La ironía no pasó desapercibida en los círculos jurídicos.

Un problema que crece en los tribunales

Este episodio no es un caso aislado. Una base de datos administrada por el tecnólogo legal Damien Charlotin ha registrado más de 1.334 incidentes de alucinaciones de IA en escritos judiciales alrededor del mundo, incluyendo más de 900 en Estados Unidos, y la mayoría involucran citas fabricadas. Los jueces en varios de estos casos han comenzado a imponer sanciones económicas a los abogados responsables.

El problema de fondo es que el despacho sí tenía políticas internas para el uso de IA, pero simplemente no se aplicaron. Según Dietderich, la firma mantiene políticas y requisitos de capacitación integrales que rigen el uso de herramientas de IA en el trabajo legal, y estas salvaguardas están diseñadas para prevenir exactamente este tipo de situación, pero no fueron seguidas en la preparación del escrito.

Recomendaciones para prevenir este tipo de errores

El caso de Sullivan & Cromwell ofrece lecciones concretas para cualquier profesional que use IA en entornos de alta responsabilidad:

1. Verificar cada cita de forma independiente. Nunca asumir que una referencia generada por IA existe o es correcta. Toda cita legal debe comprobarse directamente en las bases de datos jurídicas oficiales como Westlaw o LexisNexis antes de incluirla en un documento.

2. Separar quien redacta de quien revisa. El equipo que usa IA para redactar no debería ser el mismo que verifica el resultado. Una revisión cruzada por un abogado senior que no participó en la redacción reduce el riesgo de errores por familiaridad.

3. Tratar la IA como un borrador, no como un producto final. Las herramientas de IA generativa son útiles para estructurar ideas, pero el contenido factual y las referencias legales deben ser responsabilidad humana.

4. Documentar el uso de IA. Registrar qué herramientas se usaron, en qué partes del documento y quién realizó la revisión final crea trazabilidad y responsabilidad clara.

5. Capacitación continua y cumplimiento real de las políticas. El problema de Sullivan & Cromwell no fue la ausencia de políticas, sino que estas no se cumplieron. Las políticas internas deben tener mecanismos de verificación, no solo existir en papel.

La inteligencia artificial puede ser un aliado poderoso en el mundo legal, pero su uso sin supervisión rigurosa en contextos tan formales como los tribunales puede tener consecuencias reputacionales y legales graves. El caso de Sullivan & Cromwell lo deja en evidencia de la manera más pública posible.