La forma en que se implementará y tratará la IA gira sobre la cuestión fundamental de si se le otorgará el estatus de ‘persona’ y, por lo tanto, si recibirá los mismos derechos que las personas. Los expertos continúan debatiendo si esto debería hacerse.
La evolución de la IA
La Inteligencia Artificial (IA) se está desarrollando a un ritmo asombroso. La IA tiene el potencial de superar a la inteligencia humana dentro de los próximos 45 años, ha demostrado recientemente ser experta en leer y reaccionar ante las emociones, y puede superar a cinco de los mejores jugadores del mundo en uno de nuestros juegos más refinados [o. como vimos en esta historia, en la conducción].
En resumen, la IA se está volviendo más y más humana [como te pudimos mostrar en esta historia], y pronto será indistinguible de nosotros. Varios expertos han expresado su opinión sobre lo que pueden o no constituir las diferencias entre la humanidad y sus creaciones inteligentes.
James Hughes, director ejecutivo del Instituto para la Ética y las Tecnologías Emergentes, dijo a Gizmodo que cree que la característica clave es la consciencia de uno mismo (el reconocimiento de la consciencia, que él define como consciencia del cuerpo y el medio que le rodea). Tan pronto como un ser logra esto, se convierte en una persona.
Hughes también hace un interesante vínculo con las historias de opresión, y sugiere que discriminar según la mecánica puede ser similar a perseguir a las personas según su género o el color de la piel. «Nuestros valores adquiridos en la Ilustración nos obligan a mirar a estas características verdaderamente importantes, que además se convierten en derechos, independientemente de las especies, y dejar de lado las restricciones de la época anterior a la Iluminación que limitaban los derechos a los seres humanos o a los europeos o a los hombres», dijo Hughes en la entrevista a Gizmodo.
Wesley Smith, miembro del Centro de Excepcionalismo Humano del Instituto Discovery, sostiene la opinión contraria de que las máquinas nunca deberían recibir la condición de personas porque son máquinas. Esto se conoce en la filosofía como ‘valor intrínseco’ (basado en la cosa en sí), diferente del ‘valor extrínseco’ de Hughes (basado en las propiedades de la cosa).
«Incluso la máquina más sofisticada es sólo una máquina», dijo Smith en una entrevista con Gizmodo. «No es un ser vivo. No es un organismo. Sería sólo la suma de su programación, ya sea hecha por un humano, otra computadora, o si se convierte en auto-programada».
Otros han propuesto desarrollar una manera de ‘medir’ la consciencia. Un ejemplo es la Teoría de la Información Integrada de la Consciencia de Giulio Tononi, que determina si un sistema particular «tiene consciencia, cuánta y de qué clase» y da una «explicación de evidencia empírica, predicciones comprobables y permite inferencias». Aunque este modelo tiene enormes problemas, al menos proporciona un denominador común para la comparación.
Las consecuencias de una definición
Cómo tratar a seres que están hechos de diferentes materiales pero son igualmente sensibles como nosotros es una pregunta clave, ya que esto determinará la integración de la IA en nuestra sociedad. Para evitar cometer una atrocidad moral, debemos empezar a pensar en estas cuestiones ahora.
Pero sólo porque debamos hacer algo no significa que sea fácil hacerlo. Ed Boyden, neurocientífico del Grupo de Neurobiología Sintética y profesor asociado del MIT Media Lab, dijo en una entrevista a Gizmodo: «No creo que tengamos una definición operacional de la consciencia, en el sentido de que podamos medirla directamente o crearla».
Boyden elude al hecho de que ni siquiera hemos llegado a una definición adecuada para nosotros mismos. La cuestión de la personalidad ha dejado perplejos a los filósofos (incluyendo, entre otros, a Simon Blackburn, David Hume y Mary Anne Warren) durante milenios, porque cualquier definición nos lleva muy rápidamente a agujeros negros éticos.
El estado de persona de AI no sólo tiene ramificaciones sociales, sino también políticas, morales y filosóficas. Nuestra decisión podría conducir a una pesadilla ‘Matrixesca’ en la que estamos gobernados por la IA, o un estatus quo semejante a Her, en el que los seres humanos y las máquinas viven de forma codependiente y pacífica. La definición también es vital porque determinará cómo nos tratan los robots a nosotros. [De hecho, no hace mucho un grupo de prestigiosos expertos crearon una nueva ley de la robótica para poner de relieve la necesidad de adoptar una. Puedes leer la historia completa aquí.]
Con el fin de dar a los robots un comando sobre cómo reaccionar a los ‘seres humanos’, una definición de humano deberá codificarse en la programación de la IA. La gente a menudo se ha apoyado en las tres leyes de Asimov, pero su literatura se basaba en los problemas que tenían los robots con estas leyes y, en particular, lo que constituían los conceptos «humano» y «daño». [Puedes leer las razones para abogar por una actualización profunda de estas leyes en esta historia que publicamos no hace mucho.]
Si bien este es un campo extremadamente difícil, es alentador ver que los expertos estén pensando en estas cuestiones, porque a medida que la tecnología de la IA continúa su rápido avance, necesitaremos respuestas cuanto antes, mejor.
Artículo original publicado por Futurism. Revisado y traducido por ¡QFC!
