Usos y problemáticas de la IA
Actualmente la Inteligencia Artificial es usada en diversas herramientas jurídicas para realizar tareas como:
- Confección de documentos técnicos, usualmente muy formales con estructuras rígidas, como pliegos de bases y condiciones particulares.
- Análisis de bases de datos..
- Elaboración de informes o resúmen de textos.
- Elaboración de pequeños documentos legales de baja complejidad.
- Elaboración de bases de datos y sistematización de información.
La IA en el ámbito jurídico tiene aplicaciones diversas con problemáticas diferenciadas.
En el ámbito judicial, las discusiones se centran en la opacidad del razonamiento de la IA, y en la reproducción de sesgos.
En cuanto al primer punto, es importante que el razonamiento realizado por el órgano que dicta una sentencia o que decide una controversia sea claro, y que se explique como se llega a la conclusión. En caso contrario se estaría vulnerando derechos fundamentales, como el de defensa.
El problema en relación a los sesgos, es que toda IA es “entrenada” con información previa, de sentencias de jueces, que en muchos casos pueden estar cargadas de perjuicios, o pueden reflejar situaciones fácticas que luego puedan confundir a la IA. Por ejemplo, si la mayoría de los condenados son hombres de entre 30 y 40 años, entonces para la IA, los hombres de entre 30 y 40 años tendrán mas posibilidad de ser condenados por encontrarse en ese grupo etario y de género, ya que la estadística así lo indican. Para evitar los sesgos hay diferentes técnicas. Pueden generarse sentencias neutras, cambiar las edades, o seleccionar ejemplos de muchos tipos, pero para poder supervisar eso, los ciudadanos deberían poder acceder a la base de datos de sentencias utilizada, y poder analizar si esta equilibrada o puede reflejar prejuicios.
En el ámbito empresarial y de consultoría, la problemática pasa por la privacidad y la información confidencial que manejan las empresas. El uso de herramientas legales que implementan IA implica que la información pueda ser transferida y procesada por las compañías dueñas de las herramientas, y cuando esto sucede, las empresas accedan a información muchas veces confidencial. Por tal razón, la industria legal esta avanzando con mucho cuidado en este campo, y fija reglas muy estrictas al momento de usar herramientas con IA en los servicios jurídicos. En la mayoría de los casos, las herramientas con IA se encuentran prohibidas en las compañías, sobretodo luego de que empleados de Samsung filtraran información confidencial de la compañía al usar Chat GPT para intentar mejorar un software.