Etiqueta: abogados

  • Sullivan & Cromwell: cuando la IA alucina en la Corte

    Sullivan & Cromwell: cuando la IA alucina en la Corte


    En estos días, uno de los despachos de abogados más prestigiosos de Wall Street protagonizó uno de los errores más comentados en el mundo legal reciente. Sullivan & Cromwell se vio obligado a disculparse ante un juez federal tras presentar un escrito judicial que contenía alrededor de 40 citas incorrectas y otros errores causados por alucinaciones de inteligencia artificial.

    El incidente ocurrió en el marco de un caso de quiebra. El caso involucra la liquidación de Prince Global Holdings Limited, un conglomerado camboyano cuyos propietarios fueron acusados por el Departamento de Justicia de operar una red de estafas digitales. En ese contexto, Sullivan & Cromwell, que representa a los liquidadores de las entidades involucradas, presentó una moción de emergencia que citaba casos equivocados o inexistentes, números incorrectos y títulos de artículos inexactos.

    Andrew Dietderich, co-director del equipo de reestructuración global del despacho, tuvo que escribir una carta al Juez Martin Glenn del Tribunal de Quiebras del Distrito Sur de Nueva York. El escrito de corrección del 18 de abril incluía una versión redactada del documento original marcando los errores, algunos de los cuales implicaban la corrección de oraciones enteras. El error no fue detectado internamente: las equivocaciones fueron identificadas por el equipo de abogados contrarios, del despacho Boies Schiller Flexner.

    Lo que hace este caso especialmente llamativo es que Sullivan & Cromwell es precisamente el despacho que asesora a OpenAI sobre el «despliegue seguro y ético» de la inteligencia artificial, una representación que la firma destaca en su propio sitio web. La ironía no pasó desapercibida en los círculos jurídicos.

    Un problema que crece en los tribunales

    Este episodio no es un caso aislado. Una base de datos administrada por el tecnólogo legal Damien Charlotin ha registrado más de 1.334 incidentes de alucinaciones de IA en escritos judiciales alrededor del mundo, incluyendo más de 900 en Estados Unidos, y la mayoría involucran citas fabricadas. Los jueces en varios de estos casos han comenzado a imponer sanciones económicas a los abogados responsables.

    El problema de fondo es que el despacho sí tenía políticas internas para el uso de IA, pero simplemente no se aplicaron. Según Dietderich, la firma mantiene políticas y requisitos de capacitación integrales que rigen el uso de herramientas de IA en el trabajo legal, y estas salvaguardas están diseñadas para prevenir exactamente este tipo de situación, pero no fueron seguidas en la preparación del escrito.

    Recomendaciones para prevenir este tipo de errores

    El caso de Sullivan & Cromwell ofrece lecciones concretas para cualquier profesional que use IA en entornos de alta responsabilidad:

    1. Verificar cada cita de forma independiente. Nunca asumir que una referencia generada por IA existe o es correcta. Toda cita legal debe comprobarse directamente en las bases de datos jurídicas oficiales como Westlaw o LexisNexis antes de incluirla en un documento.

    2. Separar quien redacta de quien revisa. El equipo que usa IA para redactar no debería ser el mismo que verifica el resultado. Una revisión cruzada por un abogado senior que no participó en la redacción reduce el riesgo de errores por familiaridad.

    3. Tratar la IA como un borrador, no como un producto final. Las herramientas de IA generativa son útiles para estructurar ideas, pero el contenido factual y las referencias legales deben ser responsabilidad humana.

    4. Documentar el uso de IA. Registrar qué herramientas se usaron, en qué partes del documento y quién realizó la revisión final crea trazabilidad y responsabilidad clara.

    5. Capacitación continua y cumplimiento real de las políticas. El problema de Sullivan & Cromwell no fue la ausencia de políticas, sino que estas no se cumplieron. Las políticas internas deben tener mecanismos de verificación, no solo existir en papel.

    La inteligencia artificial puede ser un aliado poderoso en el mundo legal, pero su uso sin supervisión rigurosa en contextos tan formales como los tribunales puede tener consecuencias reputacionales y legales graves. El caso de Sullivan & Cromwell lo deja en evidencia de la manera más pública posible.

  • China consolida el uso de blockchain en servicios legales

    Según un informe reciente publicado por un medio de comunicación local, los tribunales chinos han recurrido a tecnología blockchain e inteligencia artificial (IA) para una mayor eficiencia en los procesos legales.

    China lidera el frente cuando se trata de usar blockchain en servicios legales, ya que el país presenció más de 3 millones de casos de acuerdos judiciales basados ​​en blockchain desde marzo hasta octubre de este año.

    La profesión legal ya no es ajena a la tecnología y ha experimentado una evolución desde los últimos años con el surgimiento de nuevas tecnologías como la IA, el aprendizaje automático, las herramientas de comunicación en línea y blockchain. Y, si uno pertenece al ámbito de los servicios legales en un país como China, donde la tecnología blockchain actualmente despierta los intereses y las preocupaciones de todos y donde el gobierno ha implementado un consorcio nacional blockchain para ayudar a establecer negocios relacionados con la cadena de bloques, probablemente blockchain formará parte de su vida cotidiana muy pronto.

    Este año, el país vio un número creciente de casos de litigios resueltos por blockchain y AI. El documento técnico titulado «Tribunales chinos y sistema judicial de Internet», publicado el 4 de diciembre de 2019, declaró que más de un millón de ciudadanos y alrededor de 73.200 abogados se habían alistado para una solicitud judicial inteligente.

    El tribunal único o el micro tribunal móvil utiliza opciones innovadoras como el análisis de big data y la computación en la nube para resolver disputas legales y facilita procedimientos judiciales remotos, que incluyen audiencias, mediación, negociación y presentación de pruebas. Todos emplean pantallas virtuales, negando por completo la necesidad de estar físicamente presente en la Corte. Los tribunales de la nueva era también ofrecen al público una opción para recibir las decisiones judiciales mediante varios servicios de mensajería.

    En 2017, China encabezó el lanzamiento de la primera corte inteligente del mundo en la provincia oriental de Hangzhou. Hoy en día, se implementa y practica de manera rutinaria en más de 12 regiones a nivel provincial, incluidas ciudades como Beijing y Guangzhou.

    Además, en septiembre del año pasado, la Corte Suprema china dictaminó que la evidencia autenticada con tecnología blockchain es vinculante en disputas legales. La Corte Suprema declaró que «los tribunales de Internet reconocerán los datos digitales que se presenten como evidencia si las partes relevantes recopilaron y almacenaron estos datos a través de blockchain con firmas digitales, marcas de tiempo confiables y verificación de valor hash o mediante una plataforma de deposición digital, y pueden demostrar la autenticidad de tal tecnología utilizada». El nuevo fallo se presentó como parte de una serie de reglas más completas que aclaran los procedimientos de litigio para los tribunales de internet en China, y que entró en vigencia de inmediato.

    Según los informes , Zhang Wen, presidente de la Corte de Internet de Beijing, declaró que la tecnología se está aprovechando para priorizar la eficiencia sobre la precisión. Aunque blockchain e IA facilitarán todo el proceso judicial, la decisión final estará en manos de un juez humano. Dicho esto, cree que no está lejos el día en que la tecnología sustituya a un juez en la tribuna.

  • ¿Puede el uso de contratos inteligentes representar una amenaza para los abogados?

    La tecnología blockchain ha proporcionado numerosas ventajas a los sectores que se han aventurado en su adopción. Actualmente esta se encuentra en plena expansión gracias a la participación que ha tenido en el mundo de las criptomonedas, siendo el pilar fundamental para poder desarrollar su concepto.

    Uno de los propósitos de su creación ha sido implementar las características de descentralización y transparencia, prescindiendo de la intervención de terceros para lograr la eficiencia en cualquier actividad en la que se pretenda utilizar. Sin embargo, todavía sigue habiendo lugar para la participación de muchos actores en este sector innovador.

    Los contratos inteligentes de igual manera se han convertido en una de las aplicaciones más utilizadas en esta tecnología, prestando sus capacidades tanto para el beneficio de los particulares, como para los negocios y proyectos en diferentes ámbitos. Aunque estos no son una creación reciente por así decirlo, también han tomado fuerza con la intervención de la blockchain.

    Anteriormente se trató en un par de artículos los aspectos fundamentales de los contratos inteligentes y cómo los mismos redefinirán el mundo de los negocios. Con ambos temas surgieron algunas interrogantes en torno a su futuro, incluyendo aquellas sobre el posible desplazamiento que puede ocasionar en el trabajo de los abogados.

    A pesar de ello, es importante recalcar que ni la tecnología blockchain, ni los contratos inteligentes han excluido a estos o a otros profesionales en alguna tarea, más bien por el contrario, se han abierto las puertas para una participación activa en su constante desarrollo.

    Los contratos inteligentes y la ley

    Tomando en cuenta el funcionamiento de los contratos inteligentes como un protocolo previamente establecido y cuyo cumplimiento genera una acción o desenlace, se puede determinar que su ejecución podría definirse mejor como un proceso automatizado. La lógica aplicada de “si sucede esto, luego vendrá aquello” no incluye por completo la inteligencia ni la legalidad detrás de lo acordado, pero si constituye claramente una evolución a su concepto tradicional.

    Los contratos tienen su definición por ley, siendo tomados generalmente como un acuerdo de voluntades entre dos o más partes, y además, también poseen requisitos de fondo para ser válidos, como la capacidad, el consentimiento, el objeto y la causa lícita. Por tal motivo, el término “contrato inteligente” no implica en todo sentido su condición legal, a menos que éste cumpla con lo exigido.

    La importancia de determinar su reconocimiento ante la ley radica en el conjunto de normas que podrán aplicarse a ellos, ya sea por no haberse previsto al momento de su constitución o por cualquier disputa que se produzca posteriormente como consecuencia.

    Habiendo dicho lo anterior, un contrato inteligente fijado en una blockchain puede fácilmente efectuarse sin legalidad y sin generar consecuencias jurídicas. Sus elementos condicionantes siempre estarán presentes, y en su valoración intervendrá igualmente el elemento legal y el personal para definir si es o no un contrato ante los ojos de la ley, o si es inteligente frente a la percepción de las personas.

    ¿Por qué todavía son necesarios los abogados?

    Aunque los contratos inteligentes sean ejecutados por computadoras, estos son programados por personas, lo que significa que por naturaleza propia no se cubren todas las previsiones en su formulación. Pese a que hay casos en que las condiciones establecidas suelen darse sin ningún problema, logrando el objetivo propuesto por ambas partes, hay otros en los que la ambigüedad o la carencia de reglas ameritan la intervención de un profesional en el área.

    El abogado por el hecho de contar con el conocimiento legal, puede establecer las condiciones más óptimas sobre el objetivo del contrato y su desarrollo, asegurando el cumplimiento ante panoramas inesperados o resolviendo consecuencias negativas haciendo uso de la normativa correspondiente. Por esa razón, así como se considera necesaria su participación en los contratos tradicionales, también resulta de gran utilidad en aquellos que son considerados “inteligentes”.

    Si bien es cierto que la intervención del abogado es idónea tanto antes como después de la ejecución del contrato, este no siempre será el caso. Generalmente ocurre como excepción cuando estos no se completan exitosamente y entran en juego factores que influyen en el desenvolvimiento de los mismos, como errores del sistema, vulnerabilidades o corrupción por parte de terceros.

    Conclusiones

    Los contratos inteligentes llevan como finalidad por una parte desligarse de la intervención de terceros para su constitución y realización, otorgándoles más facilidad a los participantes de llevarlos a cabo con un proceso automatizado. Sin embargo, esto no ha sido del todo suficiente para apartar a los profesionales del derecho en su implementación y estudio correspondiente.

    Las nuevas tecnologías y aplicaciones que hagan uso de este tipo de contratos, aportaran un nuevo campo de análisis para que los abogados se involucren y puedan ayudar a optimizar de alguna forma el proceso entre las partes. Asimismo, servirán de apoyo a los inversionistas para asesorarlos con el marco legal aplicable y a los entes reguladores para que entiendan esta clase de interacciones, y qué papel desempeña la tecnología en la que se respalda su correcto funcionamiento.

    Finalmente, en otra perspectiva, los nuevos negocios requerirán de un enfoque menos tradicional del derecho y más dedicado a las tecnologías emergentes, de modo que se contribuya con el desarrollo de una industria apegada a las leyes y que se desenvuelva en armonía con los entes reguladores, así como con los encargados de innovar en el ámbito de los propios contratos inteligentes y la tecnología blockchain.

    Por  Carlos Herrera. Coincrispy