El bufete de abogados de Wall Street Sullivan & Cromwell se ha disculpado ante un juez federal después de presentar un documento legal que contenía alrededor de 40 citas incorrectas y otros errores causados por AI hallucinations.
“Lamentamos profundamente que esto haya ocurrido”, escribió Andrew Dietderich, co-jefe del equipo global de reestructuración de Sullivan & Cromwell, en una carta el viernes al juez jefe Martin Glenn del Tribunal de Quiebras de EE. UU. para el Distrito Sur de Nueva York.
“La Firma y yo somos conscientes de nuestra responsabilidad de garantizar la precisión de todas las presentaciones, incluyendo la Regla de Quiebras Local 9011-1(d), y yo asumo la responsabilidad por no haberlo hecho”, dijo sobre una moción de emergencia presentada nueve días antes.
El incidente destaca el riesgo que pueden plantear las herramientas de AI en trabajos profesionales de alto riesgo sin la supervisión adecuada. Una base de datos gestionada por el tecnólogo legal Damien Charlotin ha registrado 1.334 incidentes de AI hallucinations en documentos legales en todo el mundo, incluyendo más de 900 en EE. UU.
Charlotin señaló que la mayoría de estas hallucinations involucran citas fabricadas, aunque también se han identificado argumentos legales generados por AI ocasionalmente.
Dietderich dijo que Sullivan & Cromwell tiene políticas en lugar para el uso de herramientas de AI, que incluyen una revisión de las citas que utiliza, pero dijo que las políticas no se siguieron.
“Lamentablemente, este proceso de revisión no identificó las citas inexactas generadas por AI, ni tampoco identificó otros errores que parecen haber resultado en todo o en parte de un error manual.”
Sullivan & Cromwell es uno de los bufetes de abogados más grandes de EE. UU. por ingresos, ocupando el puesto 30 en el AmLaw Global 200. El bufete también representó al crypto exchange FTX en su caso de quiebra.
Sullivan & Cromwell está llevando a cabo una investigación interna
Dietderich dijo que el bufete de abogados tomó “medidas correctivas inmediatas”, incluyendo una revisión completa de las circunstancias que llevaron a los errores.
El bufete también está “evaluando si son necesarias mejoras adicionales a sus procesos de capacitación y revisión internos”, dijo Dietderich.
Dietderich también señaló que los errores fueron detectados por un bufete de abogados rival.
“También llamé a Boies Schiller Flexner LLP el viernes para agradecerles por haber llamado nuestra atención sobre este asunto y para disculparme directamente con ellos también”, dijo.
