2. ESTUDIO PRELIMINAR
2.2. La autonomía en contexto: humano y robótico.
Iniciemos estableciendo los parámetros que dan claridad al concepto de la autonomía humana y luego haremos lo propio con los sistemas robóticos autónomos. El mayor exponente de la autonomía en el ser humano18 es el filósofo de Königsberg, Immanuel Kant (1724-1804); quien en su obra Fundamentación para una metafísica de las costumbres (1785), hace un desarrollo del concepto ‘autonomía’, intentando descubrir si la razón humana actúa por razón de sí misma, desentrañando así el problema de la libertad.
En esta obra, el filósofo alemán distingue a la persona de las cosas; concibe a la persona como un fin en sí mismo, mientras que la definición de la cosa abarca a todo aquello cuanto puede ser utilizado discrecionalmente como medio
18 Para ampliar el concepto y la discusión de la autonomía frente al planteamiento de Kant, referirse a G.W.F. Hegel (1807), Nicolai Hartmann (1926), Arthur Schopenhauer (1819) y Friedrich Nietzche (1887) y (1989); quienes han debatido sobre las inconsistencias y problemas que deja sin resolver la propuesta de la autonomía kantiana.
28
por cualquier voluntad19. Al establecer a la persona y, en suma, a la humanidad como un fin en sí mismo, atribuye a ésta una condición especial que le da la posibilidad de legislar universalmente, siendo la autonomía de voluntad la encargada de hacer posible la máxima universal, conocida como imperativo categórico:
Así pues, el imperativo categórico es único y, sin duda, es este: obra sólo según aquella
máxima por la cual puedas querer que al mismo tiempo se convierta en una ley universal20.
Por consiguiente, cualquier acto que no cumpla esta máxima, es decir, todo acto que sea atribuido a una coerción externa, determinada por algo ajeno a la voluntad, no es considerado como un acto moral. Por lo que se deduce que, en Kant, el ejercicio de la autonomía está directamente relacionado con una acción moral. En el siguiente pasaje vemos la manera como Kant plantea el
19 Kant (Ak. IV, 428, 1785: 137). 20 Kant (Ak. IV, 421, 1785: 126).
29
principio de autonomía como una máxima producto de un ejercicio volitivo:
No resulta sorprendente que, si echamos una mirada retrospectiva hacia todos los esfuerzos emprendidos desde siempre para descubrir el principio de la moralidad, vemos porque todos ellos han fracasado en su conjunto. Se veía al hombre vinculado a la ley a través de su deber, pero a nadie se le ocurrió que se hallaba sometido solo a su propia y sin embargo universal legislación, y que solo está obligado a obrar en conformidad con su propia voluntad, si bien esta legisla universalmente según el fin de la naturaleza. Pues cuando se le pensaba tan solo como sometido a una ley (sea cual fuere), dicha ley tenía que comportar algún interés como estímulo o coacción, puesto que no emanaba como ley de su voluntad, sino que esta quedaba apremiada por alguna otra instancia a obrar de cierto modo en conformidad con la ley. Pero merced a esta conclusión totalmente necesaria quedaba perdido para siempre cualquier esfuerzo encaminado a encontrar un fundamento
30
supremo del deber. Pues nunca se alcanzaba el deber, sino una necesidad de la acción sustentada en cierto interés, fuese propio o ajeno. Más entonces el imperativo tenía que acabar siendo siempre condicionado y no podía valer en modo alguno como mandato moral. Así pues, voy a llamar a este axioma el principio de la autonomía de la voluntad21.
La identificación del imperativo categórico con la voluntad autónoma implica la creación de una ley universal en la misma conciencia, en la razón pura; hecho que supera toda acción impuesta por las inclinaciones y necesidades producto de las pasiones. Bajo esta perspectiva, un sujeto capaz de autonomía tiene la habilidad de despojarse las contingencias de su vida práctica y adoptar un punto de vista que incluya a otros sujetos de su misma especie.
Por lo tanto, se entiende la autonomía humana como la capacidad de razonar y elegir de acuerdo a lo que la ley moral le exige. Esta elección es libre, pero esta libertad no
21 Kant (Ak. IV, 453, 1785: 145).
31
está en hacer lo que le apetezca, sino en elegir lo que debe ser.
Caso diferente y, sin embargo, con alguna semejanza, se halla la autonomía ejercida por los sistemas robóticos. La práctica tecnológica ha desarrollado dispositivos con capacidades autónomas similares a las humanas, pero no del todo correspondientes con estas. En Kant, y en general en la filosofía, la autonomía hace referencia a la capacidad que tiene el ser humano de elegir libremente y, sobre todo –en Kant- de elegir bien. Esta elección, no viene dada por una fuerza o mandato externo, el ser humano en su plena libertad se decide por el imperativo categórico que le marca los límites de su deber-ser.
En tanto que, en la robótica, la autonomía se relaciona con la capacidad de actuar de manera independiente de un operador o agente, es decir, realizar actividades que no estén, o estén lo menos posible, supervisadas por un humano22.
22 Salichs, Malfaz, & Gorostiza (2010).
32
Antoni Gomila, profesor de Pensamiento y Lenguaje del Departamento de Psicología de la Universidad de las Islas Baleares, propone una diferencia entre los Sistemas Robóticos de Servicio y los Sistemas Robóticos plenamente Autónomos, donde el punto diferenciador no es tanto el grado de autonomía sino la finalidad del sistema o máquina. Los primeros los define como “sistemas diseñados para hacerse cargo de tareas determinadas, específicas, de manera cada vez más inteligente y adaptativa, con mayor margen de decisión”23. Su referencia más cercana son los sistemas robóticos industriales cuyo rango de actuación está determinado para suplir alguna necesidad específica del ámbito humano. En tanto que los sistemas robóticos con autonomía real, son “máquinas con capacidad de movimiento autónomo y de conducta flexible y adaptativa”24, no hay en ellos una necesidad del ámbito humano predeterminada para cumplir, son diseñados para establecer una relación afectiva estable.
23 Gomila (2010).
33
Esta definición pareciera no tener en cuenta la distinción entre la autonomía en sentido filosófico y la autonomía en sentido robótico. Hecho al cual considero hay que darle mayor importancia, pues si se comprende daremos cuenta de que allí es donde se da el giro problemático de la autonomía en los sistemas robóticos.
Pongamos por caso las máquinas industriales cuyo alto grado de autonomía les permite realizar trabajos relativamente sencillos por largos períodos de tiempo sin la presencia de un operador25. Tomemos como caso contrario los vehículos aéreos no tripulados –UAV o drones26- de la fuerza aérea norteamericana, en especial el
25 Salichs, Malfaz, & Gorostiza (2010).
26 La Real Academia Española, ha incluido en el Diccionario de la
lengua Española, la palabra dron, como neologismo proveniente del
inglés drone, sustantivo cuyo significado es zumbido (literalmente significa zángano). Este término inicialmente utilizado para hacer referencia a los vehículos aéreos no tripulados (UAV), hoy hace referencia a diversos tipos de robots o sistemas voladores. El uso de la palabra drone (en inglés) probablemente tenga como causa la referencia a la semejanza entre el ruido que éstos hacen con respecto al zumbido producido por las abejas al volar. Por último, cabe indicar que en castellano, el plural del sustantivo dron, es drones.
34
“Reaper”, quien realiza actividades de vigilancia militar cumpliendo órdenes de alto nivel programadas por agentes externos, mientras que el nivel de sus decisiones es más bajo. En estos casos, el operador tan sólo indica la misión que debe cumplir, mientras que es el propio dron el que se encarga de construir su plan de vuelo, elegir el camino y evitar los obstáculos con el único fin de cumplir con la misión encargada, algo que de por sí es complejo y difícil.
En el primer caso, la máquina industrial realiza actividades sin la supervisión de un agente externo; se diría que tiene un alto grado de autonomía; sin embargo, su actividad es limitada a tareas sencillas, la máquina no toma decisiones por sí misma, sino que cumple de manera automática unos algoritmos preestablecidos. En el segundo caso, se encuentran sistemas con una limitada autonomía, pero con capacidad para tomar decisiones complejas; cabe subrayar que estos sistemas funcionan en entornos controlados y por breves períodos de tiempo; ahora el reto que se pone frente a la robótica actual es “conseguir robots capaces de operar en situaciones complejas, de forma desatendida y durante largos
35
periodos de tiempo”27. En este último grupo se ubicarían los sistemas robóticos autónomos.
Ahora bien, mientras la autonomía en los sistemas se mantenga bajo los estándares de la robótica -es decir, que realicen actividades sencillas o complejas sin necesidad de estar supervisadas-, no se incurre en ningún problema nuevo de talante filosófico, ético o axiológico. Mejor aún, esta situación de la autonomía en la técnica ha sido debatida y cuestionada en la tradición filosófica. El problema de la tecnología contemporánea se da cuando los sistemas robóticos superan los estándares de la autonomía robótica y comienzan a tomar decisiones, elegir objetivos, aprender de los propios humanos y de las propias experiencias, relacionándose de forma natural con el entorno y con los otros sistemas robóticos; este es el lugar en el que la filosofía cuestiona y piensa, pues se ve claramente que la autonomía robótica ha entrado en el terreno de la autonomía en sentido filosófico.
Si se acepta lo anterior, asimismo se estaría afirmando que los sistemas robóticos autónomos podrían imitar algunas
36
soluciones que la naturaleza y el hombre dan a sus problemas, crear nuevos ambientes y configurarlos de acuerdo a sus objetivos. Nos encontramos ante una nueva puerta que nos exige reflexionar la cuestión acerca de la manera cómo se desliga la autonomía robótica de la autonomía humana -aun cuando las dos se encuentren en el sentido filosófico-, y por qué se afirma que lograda la total autonomía en la robótica ésta se habrá perfilado con características particulares propias y será susceptible de ser comprendida manera independiente de la autonomía humana.
Lo anterior cobra importancia puesto que, como hemos señalado arriba, el concepto de autonomía en la robótica se piensa y se diseña como un ejercicio limitado de la autonomía humana. Ernest Kapp (1808-1896), considera el desarrollo técnico como la extensión de lo humano en la máquina:
[...] lo que buscamos aquí es probar que el hombre ha proyectado o trasladado la forma de sus órganos a las herramientas originarias. Lo que ha de acentuarse y ser mostrado es la destacada afinidad interna de la herramienta
37
con el órgano, afinidad que se encuentra no tanto en el intencionado inventar cuanto en el hallazgo inconsciente, y que pone de relieve que el hombre, en la herramienta, siempre se muestra a sí mismo28.
Esto es muy importante, pues, si seguimos a Kapp, conocer y comprender la técnica sería encaminarse al conocimiento de la esencia humana. Sin embargo, las tecnologías robóticas no sólo son representación y extensión de lo humano –en sentido biológico, el aporte será nulo, no hay un beneficio al desarrollo de la naturaleza humana-, éstas son expresión de lo político, económico y cultural. Las nuevas tecnologías contienen factores ajenos a la esencia humana29. De esta manera, el
28 (Kapp, 1877).
29 Como se verá más adelante -en el capítulo 4-, las tecnologías posibilitarán la construcción de nuevos mundos, en los cuales es posible pensar entidades totalmente independientes del ser humano; debido al tempranero estado del cambio metaontológico, hablar hoy de los mundos que se construirán como resultado de las nuevas tecnologías resultará incomprensible y hasta imposible. Lo que es claro es que las nuevas entidades tecnológicas, muy seguramente no aportarán en nada a la esencia de lo humano, ellas se habrán desprendido totalmente de él. Lo que implica un cierre de la esencia
38
artefacto tecnológico se va desprendiendo de lo meramente humano, y va adquiriendo nuevas características configurando de esta manera una naturaleza relacional propia.
No obstante, antes de examinar la manera como se desliga la autonomía robótica de la autonomía volitiva, posibilitando de esta manera la configuración de una naturaleza relacional del sistema robótico30, considero necesario analizar detalladamente el fenómeno de los sistemas robóticos autónomos. No toda tecnología está invitada a hacer parte de la nueva posibilidad relacional. Sin duda, seguirán existiendo aquellas tecnologías cuya relación con el ser humano será instrumental, de uso. También es necesario afirmar que, actualmente, no hay tecnologías que puedan configurar una naturaleza relacional propia. Existe, empero, una serie de desarrollos tecnológicos que están abriendo caminos que
humana. Aspecto que es relevante, pues, ante una tecnología independiente de lo humano lo que ha sido esquivo durante siglos, hoy será posible la aprehensión de la esencia humana.
30 Este desligue se da gracias a la capacidad de organización análoga a la de un ser vivo que tienen estos sistemas. Véase apartado 5.1.
39
posibilitarán la actualización de la materia de un modo que esta tecnología se verá en la necesidad de crear comunidades con entidades de su misma especie.
2.3. El análisis de los “Lethal Autonomous