ACTUAL ESCENARIO TEÓRICO / ÉTICO DE LA INTELIGENCIA ARTIFICIAL
Autor: Abog. Leonardo Poses Stekelberg.
Fecha: Marzo 2023.
I. PARA EMPEZAR: ¿QUÉ ES LA INTELIGENCIA ARTIFICIAL?
Es un cúmulo de tecnologías que utilizan operaciones computarizadas y automatizadas, para el análisis y toma de decisiones basadas en datos. Su principal característica es la capacidad de “simular” la inteligencia humana y aplicarla a problemas cotidianos, ofreciendo así soluciones asentadas en la predicción y/o el reconocimiento de determinados patrones.
Existen dos tipos de Inteligencia Artificial: “débil” o “estrecha”, que se enfoca en ejecutar tareas específicas, y “fuerte” o “general”, que contextualiza diferentes problemas específicos y ejecuta tareas independientes a partir de dicha vinculación, similar a la articulación empleada por el entendimiento humano.1
Los sistemas de Inteligencia Artificial se pueden encontrar, en la actualidad, en un sinfín de aplicaciones, como asistentes virtuales, sistemas de reconocimiento de voz, drones y vehículos autónomos, entre otros. Estos procedimientos varían en complejidad y autonomía, y su presencia en la vida cotidiana es cada vez más común, nos guste o no.
Ahora bien, con la llegada arrolladora -y en tan corto plazo- de las IA, algunos especialistas comenzaron a emparentarla a una especie de “rebelión” tecnológica o de transformación radical, dándole el mote de “cuarta revolución industrial”2. Mas, ¿ésto qué significa?: la cuarta revolución industrial es un término que se usa para describir la evolución actual en la producción, gestión y organización de las industrias de avanzada a nivel mundial. Esta “revolución” se caracteriza por la integración de tecnologías digitales vanguardistas (como la inteligencia artificial, la robótica, el internet de las cosas y la tecnología blockchain en los procesos industriales y comerciales).
Para dimensionar esta representación, entiendo oportuno realizar un breve repaso por las anteriores mutaciones económico-sociales. La primera revolución industrial se dio en la segunda mitad del siglo XVIII y principios del XIX, con la invención de la máquina de vapor; lo que permitió una producción masiva y la transformación de la economía agrícola hacia una economía industrial. La segunda revolución sucedió a finales del siglo XIX y principios del siglo XX, con la introducción de la electricidad y la producción en cadena. La tercera revolución industrial inició sus transformaciones a partir de los años ´70 con la introducción de la tecnología de la información y las comunicaciones.
La cuarta revolución industrial -la que me interesa analizar en este ensayo- implica una mayor automatización, la digitalización y la conexión en red de los procesos de producción y logística. Esto está generando, innegablemente, cambios significativos en el mercado laboral y en la forma en que las empresas y los consumidores interactúan. En la actualidad los más optimistas vaticinan que compañías y países que adopten (seria y controladamente) estas tecnologías, podrían aumentar de forma exponencial su eficiencia, mejorando la calidad de sus productos y servicios y generando nuevas e infinitas oportunidades de crecimiento y expansión.
No obstante, dicho concepto no sólo se refiere a la implementación de nuevas tecnologías digitales en la producción, sino también a una serie de cambios en la forma en que se organizan y gestionan las corporaciones (públicas y privadas), o de cómo se instrumentan las cadenas de suministro, o la manera de “predecir” ciertos resultados y decisiones. Algunos ejemplos de estas transformaciones incluyen:
Fabricación inteligente: la fabricación inteligente (también conocida como Industria 4.0), implica la integración de tecnologías digitales avanzadas en los procesos de producción, como la automatización, el internet de las cosas, la IA y el aprendizaje automático. Esto permite que las fábricas sean más eficientes;
Basados en Registros: son una fuente de datos importante para los algoritmos de IA, ya que proporcionan información valiosa sobre el comportamiento de los usuarios y los sistemas. A saber: recopilación de datos de calidad; normalización de datos; análisis y seguridad de los mismos; etc.;
Mejorando la Economía industrial: porque estos avances presentan la capacidad de optimizar los procesos, de automatizarlos, personalizando el servicio ofrecido; además de predecir futuras demandas; etc.;
Aprovechando el Trabajo remoto y la colaboración en línea: la cuarta revolución industrial también está permitiendo una mayor flexibilidad en la forma en que las empresas organizan el trabajo y colaboran en línea. La tecnología permite que los trabajadores realicen sus tareas desde cualquier lugar, lo que ha llevado a un aumento en el trabajo remoto3 y la colaboración en línea en todo el mundo.
Todo lo hasta aquí volcado pareciera lanzarnos a un “futuro esperanzador”, en donde la tecnología y los desarrollos científicos en materia de IA nos ofrecerían un porvenir brillante; hermanando a máquinas y hombres, permitiendo un progreso humano hacia la perfección de la vida social. Nada más alejado de esta panacea, en la medida en que no se dé una necesaria intervención de distintos actores (mandatarios, administradores, empresarios, especialistas en distintas materias relacionadas al tema, etc.), que lleven adelante concertaciones, ora limitantes, ora de tutela, sobre esta abrumadora -pero a la vez prometedora- actividad. Concertación que podríamos denominar “Escenario (o marco) teórico / ético”, dedicado al desarrollo y puesta en práctica de la inteligencia artificial.
Éste es un tema complejo y estratégico de nuestra actualidad, dado el impacto que la IA está teniendo en muchos -demasiados- aspectos de la vida humana, que van desde la economía, el empleo, las inversiones, hasta la salud, la seguridad, los deseos personales y la privacidad. La realidad indica que en un corto plazo esta herramienta pasó a implementarse en incontables situaciones, siendo lo más problemático el hecho de que los usuarios puedan llegar a depositar su confianza y decisiones en respuestas recibidas por la mentada Inteligencia.
Dicho ésto, es importante señalar que esas respuestas generadas por modelos de lenguaje de IA pueden presentar ciertos sesgos, ya sea parcial o completamente. Estos sesgos resultarían de diversas limitaciones propias de cualquier tipo de lenguaje de IA. Uno de los factores que puede influir en la aparición de respuestas digitadas, incompletas o incoherentes4 es la calidad de los datos e información con los que se entrena el modelo. Si el prototipo se instruye con datos manipulados o limitados, es probable que las respuestas que genere también reflejen esos sesgos. Por tanto, es crucial asegurarse de que la información empleada para entrenar los modelos de lenguaje sean lo más diversos y representativos posible.
Además, otro factor que puede influir en la aparición de réplicas tendenciosas es la lógica subyacente al modo de procesamiento utilizado por la matriz de lenguaje, a través del aprendizaje profundo (deep learning) y sus diferentes variantes. El aprendizaje profundo puede generar respuestas de alta calidad y precisión, pero también puede ser propenso a sobre-ajustar los datos de entrenamiento, lo que llevaría a resultados parcialmente correctos pero incompletos (llegando al límite de ser totalmente incorrectos).
Desde un punto de vista teórico, sería sumamente importante que la evolución de la inteligencia artificial se base en fundamentos sólidos de matemáticas, estadísticas, ciencias de la computación y teoría de la información, para asegurar que las aplicaciones de la misma sean precisas, confiables y sembradas de “realidad”. Además, se debe tener en cuenta un aspecto básico, como es el quehacer interdisciplinario de la IA y su relación con otras áreas del conocimiento humano, como la filosofía, la psicología, la sociología y el derecho.
Desde la perspectiva de la ética, es esencial que la IA se adecúe y utilice de manera responsable, con desarrolladores y usuarios conscientes de las implicancias sociales, culturales y morales de sus aplicaciones. Se deben considerar cuestiones como la equidad, la justicia, la transparencia, la privacidad, la responsabilidad y la confidencialidad, para garantizar que la IA no perjudique, por ejemplo, a grupos vulnerables. La privacidad y la confidencialidad son especialmente importantes en este contexto, ya que dicha tecnología puede recopilar y procesar grandes cantidades de datos (personales, secretos y reservados). Resulta decisivo que los sujetos tengan control sobre su propia información personal, y que, de igual modo, ésta sea utilizada de manera fiable; pero, por sobre todas las cosas, que se halle protegida contra el acceso no autorizado.
En nuestro presente, la mencionada “inteligencia sintética” se va convirtiendo rápidamente en una de las tecnologías más relevantes y disruptivas de nuestro tiempo, y su impacto se siente en numerosos campos como la medicina, el transporte, la educación y la industria, entre otros. Es por eso que resulta esencial -fundamental- que las circunstancias teórico-éticas que guíen su desarrollo y aplicación, sean sólidas y estén basadas en principios que promuevan ante todo el bienestar humano.
Finalmente, la responsabilidad es crucial dentro de este escenario, ya que todas las personas intervinientes en cualquier etapa de creación o aprovechamiento deben ser conscientes de las posibles consecuencias negativas de la IA, obligándose a trabajar denodadamente para minimizar los riesgos asociados y/o colaterales. En este sentido, es necesario establecer mecanismos de supervisión y control que permitan identificar y corregir los errores y fallos de la IA de manera inmediata y oportuna.
III. ¿CÓMO SEGUIR?
En la mesa de diálogo sobre esta temática, los partícipes deben ser muchos, de ramas varias y con una actividad incesante. Uno de los primeros objetivos a perseguir podría enfocarse en la redacción de normativas -internas / regionales / internacionales- que concentren la intervención teórica, ética y jurídica, allanando los caminos para una gestación supervisada de estas tecnologías.
Dicho control -público, privado o mixto- exige, a su vez, proyectar la creación de agencias y/o empresas (gubernamentales o no), que no presenten vínculos o intereses en el desarrollo de modelos de IA al cual les toque monitorear, certificando así que los mismos cumplen e implementan los distintos “principios” de la legislación especializada.
Esto no implica que debamos "huir" de estos avances técnicos, sino que, por el contrario, el usufructo -sensato- nos obliga a replantearnos ciertas delimitaciones (acordes a este nivel de tecnología “invasiva”); tecnología que se agiganta -por momentos- en forma descontrolada, pudiendo provocar en muchas ocasiones resultados indeseados y por momentos peligrosos.
Respecto a la temática sobre el control de la actividad de la IA, cabría preguntarnos si ya existe vigilancia a nivel mundial; al investigar las leyes y regulaciones actuales relacionadas con el uso de nuevas tecnologías, puede descubrirse al instante que ya se fueron planteando preocupaciones legales y éticas asociadas con la implementación de la inteligencia artificial. Dichas previsiones van desde el desplazamiento de puestos laborales, la violación a la privacidad de datos sensibles, hasta el sesgo y la responsabilidad por posibles daños. En términos de normas y regulaciones, algunos de los países llamados “desarrollados” presentan diferentes enfoques para la expansión y uso de la Inteligencia. Por ejemplo, la Unión Europea5 ha introducido directrices éticas para una IA fiable, que incluyen principios como la transparencia, la rendición de cuentas y la no discriminación. Del mismo modo, los Estados Unidos han establecido el Instituto Nacional de Estándares y Tecnología (NIST)6 para desarrollar patrones y directrices para el funcionamiento de los sistemas de IA.
En resumen, la implementación de la IA plantea preocupaciones legales y éticas que deben abordarse a través de una combinación de leyes, regulaciones y pautas éticas. A medida que la IA continúa transformando diversos sectores de la sociedad, es esencial que los marcos legales y regulatorios sigan el ritmo de los avances tecnológicos para garantizar el provecho responsable y decente de la IA.
IV. POTENCIALES PREOCUPACIONES
Una de las principales preocupaciones ante el arribo de tan novedosa tecnología, es, como decía líneas arriba, el sesgo en la toma de decisiones. Los algoritmos de aprendizaje automático se basan en grandes cantidades de datos para hacer predicciones, y si esos datos contienen información tendenciosa o están manipulados negativamente -por ejemplo- hacia grupos sociales en particular, los algoritmos pueden producir resultados peligrosos y discriminatorios. Esto conduciría a un trato injusto y violento hacia ciertas personas, especialmente aquellas pertenecientes a comunidades marginadas o a minorías.
Otra inquietud es la falta de transparencia y rendición de cuentas7 en la toma de decisiones de las IA. A diferencia de los jueces y abogados humanos, los algoritmos de IA no tienen la capacidad de explicar su razonamiento y justificaciones para una decisión en particular. Esto podría conducir a una falta de confianza en el sistema legal, y es menos probable que las personas acepten los resultados de las decisiones basadas en la IA.
Además, existe una posible pérdida de empleos o de futuras oportunidades laborales; apuntando específicamente al universo legal, podrían plantearse escenarios preocupantes en la medida en que la utilización de la IA se torne más frecuente. Si bien la Inteligencia puede mejorar la eficiencia y reducir algunos costos, también podría conducir al desplazamiento de trabajadores humanos que no se hallen capacitados en este tipo de tecnologías.
En general, es importante considerar cuidadosamente las posibles preocupaciones éticas y los problemas que pueden surgir con la implementación de la IA en el sistema legal. Al hacerlo, podemos trabajar para desarrollar soluciones de IA que sean justas, transparentes y responsables.
Autor: Abog. Leonardo Poses Stekelberg.
Fecha: Marzo 2023.
1 VELASCO, P., GUERRA, J. “Inteligencia Artificial y derechos humanos. Algunos conceptos básicos”. https:// ia. derechosdigitales. org/wp-content/uploads/2022/05/DD_IA_01.pdf. (Consultado 05/03/2023).
2 GUIO ESPAÑOL, A., TAMAYO URIBE, E., GÓMEZ AYERBE, P., MUJICA, M. “Marco ético para la inteligencia artificial en Colombia”. https://inteligenciaartificial.gov.co/static/img/MARCO_ETICO.pdf. (Consultado 07/03/2023).
3 NEWS MUNDO. “5 grandes cambios que revolucionarán el empleo en los próximos años (y cómo pueden afectarte)”. https://www.bbc.com/mundo/noticias-55224333. (Consultado 21/03/2023).
4 CORVALÁN, J., ESTEVEZ, E., LE FEVRE CERVINI, E., SCHAPIRA, D. SIMARI, G. “ChatGPT vs GPT-4: ¿Imperfecto por diseño?”, La Ley, CABA (2023), págs. 11 a 15.
5 NOTICIAS PARLAMENTO EUROPEO, “Regulación de la inteligencia artificial en la UE: la propuesta del Parlamento”. https://www. europarl.europa. eu/news/es /headlines/ society/20201 015STO89417 /regulacion- de-la-inteligencia -artificial-en-la-ue-la-propuesta- del-parlamento. (Consultado 17/03/2023).
6 NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY, “Technical AI Standards”. https:// www. nist . gov /artificial -intelligence/technical-ai-standards. (Consultado 17/03/2023).
7 Ver artículo de mi autoría en este blog: "La <rendición de cuentas> de la IA".
Comentarios
Publicar un comentario