José de la Torre Ugarte

Repensando a Asimov: Reescribiendo las Leyes de la IA y la Robótica para un Nuevo Futuro

Entrevista a José de la Torre Ugarte Guibert

Head of Marketing

en The Game Changers Lab

Todos estamos conmocionados por los desarrollos de la IA, pero hasta ahora, si bien existe un marco general de consenso acerca de que debe ser regulada, nadie ha sido tan avezado en proponer reglas universales como en su momento lo fue Asimov. Necesitamos nuevas Leyes de la IA.

Asimov asumió un mundo donde la IA y su soporte -el hardware- estaba corporizado en entidades físicas -robots- que interactuaban con los humanos como humanoides en el día a día. Estas fueron las normas que el propuso.

Las Tres Leyes de la Robótica de Isaac Asimov son las siguientes:

  1. Primera Ley: Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
  2. Segunda Ley: Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entran en conflicto con la Primera Ley.
  3. Tercera Ley: Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley.

Estas leyes fueron diseñadas para garantizar el comportamiento ético de los robots en los relatos de Asimov. Pero lo que no consideraron, es que en realidad el desarrollo previo a los robots, es el software que controla y crea la inteligencia de los robots.

leyes de la ia

Repensando a Asimov: Reescribiendo las Leyes de la IA y la Robótica para un Nuevo Futuro

Isaac Asimov, con sus Tres Leyes de la Robótica, marcó el comienzo de una era donde imaginamos a los robots como entidades subordinadas a la humanidad, programadas para protegernos y obedecernos. Sin embargo, a medida que avanzamos en el siglo XXI y las inteligencias artificiales se integran más profundamente en nuestras vidas, es hora de repensar y reescribir estas leyes bajo una nueva luz. Han resultado ser algo mucho más omnipresente y complejo de gobernar que lo que pensó Asimov.

Las IAs modernas, además de tomar decisiones, analizar enormes cantidades de datos y, en algunos casos, superar la capacidad humana en ciertas tareas, se han vuelto complejas y deben ser actualizadas para abarcar las complejidades éticas, filosóficas y sociales de las IAs no corporales que ahora gestionan aspectos críticos de nuestras sociedades. Estas son simplemente algoritmos educados que pueden usarse como llaves para activar muchas tareas.

Reescribiendo las Leyes de la IA

Ley 1: La IA debe priorizar el bienestar de la humanidad sin comprometer su diversidad.
La primera ley de Asimov decía que un robot no podía dañar a un ser humano ni, por inacción, permitir que un humano sufra daño. En el contexto actual, esta premisa debe expandirse para incluir no solo el daño físico, sino también el daño psicológico, económico y social. Además, la IA debe ser diseñada para proteger la diversidad de pensamientos y culturas, garantizando que sus decisiones no refuercen prejuicios ni fomenten desigualdades.

Ley 2: Las IAs deben actuar con transparencia y responsabilidad hacia los humanos.
La segunda ley de Asimov obligaba a los robots a obedecer a los humanos, a menos que estas órdenes entrasen en conflicto con la primera ley. Hoy en día, es imperativo que las IAs no solo obedezcan, sino que operen bajo principios de transparencia. Las decisiones que toman las IAs deben ser explicables y entendibles, y las entidades que las gestionan deben rendir cuentas cuando algo sale mal.

Ley 3: Las IAs deben aprender y adaptarse continuamente, respetando los valores y principios éticos humanos.
La tercera ley original buscaba proteger la existencia de los robots, siempre que no interfiriera con las dos primeras leyes. En nuestra era, donde las IAs evolucionan y se actualizan constantemente, esta protección debe extenderse a garantizar que las IAs aprendan y se adapten dentro de un marco ético humano. No se trata solo de preservar su existencia, sino de asegurar que sus mejoras no comprometan la seguridad o los valores fundamentales de la humanidad.

leyes de la ia 2

Reflexionando sobre el futuro: Las leyes de la IA y los responsables de generarlas

El legado de Asimov nos mostró un camino donde la tecnología y la ética deben ir de la mano. Hoy, cuando las IA ya no son solo ficción, nos corresponde reimaginar este marco ético para garantizar que las innovaciones futuras nos lleven a una convivencia más armónica y justa.

¿Hacia dónde nos llevará esta nueva relación con las IAs? Solo el tiempo lo dirá, pero una cosa es clara: las reglas deben evolucionar junto con las tecnologías que las inspiran. Esto nos conlleva a preguntarnos: ¿quiénes son las y los intelectuales que estan pensando en estas leyes y como operativizarlas?

Yejin Choi: «El sentido común no es tan común» La moral humana y las leyes de la IA

Con esta cita de Voltaire, la científica de la Universidad de Washington esboza un panorama sobre las dificultades que tiene la IA para comprender asuntos básicos de la ética y moral humana. ¿Puede la IA, sin sentido común, llevar a la humanidad a un destino seguro para todos?

¿Qué haría una IA si le pedimos que produzca todos los clips que pueda?

Ya sea que nuestros trabajos estén directamente vinculados o no con los desarrollos de la IA, es cuestión de meses hasta que pronto lo esté. Esta característica omnipresente de esta tecnología, como en su momento fue la Internet, hace que los cuestionamientos de Choi sean más válidos que nunca. Debemos saber, a ciencia cierta, si es que le pedimos a una IA, que haga algo, si va a lastimar humanos en el camino, o si va a perjudicar el medio ambiente en el camino. Al fin y al cabo, estas tecnologías son un reflejo fiel de nosotros mismos.

Por último, así como nosotros deducimos muchos errores lógicos y de concepto al momento de generar imágenes, como les contamos en este post, entendemos que gran cantidad de problemas de la ética y moral de la IA tienen que ver con que no han sido entrenadas con un data set suficiente de criterios morales. ¿Será momento de hacerlo? ¿Qué pasa si solo algunos tienen los recursos para hacerlo en sus super ordenadores? Podremos discutir eso y más en Game Changers Spain 2024, ¿Te unes?

Recomendado

Ir al contenido