Durante las últimas semanas se han reportado varios casos relacionados con inteligencia artificial (IA) en los tribunales, algunos de los cuales han generado controversia.
Por ejemplo, se ha mencionado el uso de un avatar IA por parte de una familia para presentar una declaración de impacto en un caso de violencia en la carretera, así como errores generados por IA en documentos legales que han provocado la intervención de los jueces.
Estos incidentes evidencian la creciente presencia de alucinaciones de IA en el ámbito judicial, lo cual ha llevado a sanciones e incluso a la puesta en entredicho de pruebas presentadas por fiscales y abogados.
Es crucial tener en cuenta que, a pesar de las ventajas que la IA puede ofrecer en términos de agilidad y eficiencia, es necesario mantener un nivel de escrutinio y verificación constante de los documentos generados por sistemas de IA para evitar errores y distorsiones. Es fundamental que los profesionales del derecho reconozcan los riesgos asociados con el uso de IA en sus prácticas y adopten medidas preventivas para garantizar la precisión y fiabilidad de la información presentada en los tribunales.
La complejidad y alcance de los modelos de IA actuales requieren una supervisión cuidadosa y una evaluación crítica por parte de los expertos legales para evitar posibles consecuencias negativas en los procesos judiciales.
