ARGUMENTO:
"Un software también puede tener una conciencia"

RESUMEN: ¿Qué es la conciencia? ¿cómo se origina? ¿puede tener conciencia un ser inerte? ¿es posible que un software de inteligencia artificial tenga conciencia? Éstas son algunas de las preguntas a las que aquí voy a responder.

La conciencia es un fenómeno natural que emerge de un cerebro. Cada ser que tiene conciencia sólo puede demostrársela a sí mismo, razón por la cual las conciencias ajenas se infieren lógicamente mediante el uso de analogías. Mientras que podemos inferir lógicamente la existencia de conciencia en seres biológicamente similares a uno mismo gracias a la existencia de SNC, respuestas fisiológicas, respuestas químicas, encefalograma, etc., existe un abismo entre la propia conciencia y un software de inteligencia artificial debido a que ésta posee un sustrato material cualitativamente diferente (materia inorgánica), por lo que es imposible inferir lógicamente que un software tenga conciencia.

Palabras clave: conciencia, emergencia, inteligencia artificial, mecanicismo, robótica

La ciencia afirma que la conciencia se origina en estructuras físicas del cerebro. La existencia de la propia conciencia sólo puede ser demostrada empíricamente a uno mismo. Yo, como conciencia que soy, compruebo que existo empíricamente, pero no puedo demostrar a otros la existencia empírica de mi conciencia, ni los demás pueden demostrarme las suyas. La existencia de conciencias ajenas se infiere lógicamente a partir de la existencia de la conciencia propia mediante el uso de analogías: si la conciencia emerge de una determinada estructura del cerebro y dicha estructura la poseen otros entonces se infiere lógicamente que esos otros también tienen conciencia. Es así como la ciencia ha encontrado en el cerebro humano y en cerebros no humanos las estructuras que generan la conciencia[1].

Existen dudas sobre cómo se origina la conciencia a partir del cerebro biológico, lo cual genera diferentes teorías sobre si es posible que un software de inteligencia artificial adquiera conciencia. Roger Penrose se ha ocupado del problema de la realidad física de la conciencia y ha analizado diversas pretensiones teóricas por parte de la inteligencia artificial de simular o construir artefactos que tengan conciencia. Penrose clasifica las cuatro posturas actuales ante la cuestión de si la conciencia es o no es computable algorítmicamente:

A. Inteligencia Artificial Fuerte. Según dicha teoría, todo pensamiento es un proceso de computación, es decir, en particular la percepción de uno mismo y la autoconciencia son procesos emergentes que son resultado directo de la computación o de un algoritmo adecuado. Es decir, un programa de ordenador podría adquirir conciencia.
B. La conciencia es una consecuencia del tipo de acción física que ocurre en el cerebro, y aunque cualquier acción física puede simularse apropiadamente a través de medios computacionales; el hecho de que se lleve a cabo un proceso de simulación computacional del cerebro no comportaría, por sí mismo, la aparición auténtica de la autoconciencia. John Searle sería un partidario de la postura.

C. La realización de cierta actividad física en el cerebro es lo que lleva a la aparición de la autoconciencia; sin embargo, aunque puede ser reproducida artificialmente, dicha acción no puede simularse algorítmicamente. Roger Penrose ha argumentado fuertemente esta postura, relacionándola con otros problemas abiertos de la física como la teoría cuántica de la gravedad.


D. La conciencia de tipo humano no puede entenderse propiamente en términos físicos, computacionales o científicos de otro tipo. Ésta es la postura que normalmente adoptan las religiones.

Algunas personas dicen que la conciencia se origina de la materia si existe la suficiente complejidad de procesamiento de información, aunque la base material no sea biológica. Según estas personas, la conciencia(1) no es un fenómeno emergente de la materia, sino que dicen que «Es el procesamiento de información lo que produce la experiencia» si ésta alcanza «una determinada complejidad», independientemente del sustrato material en el que se realiza dicho procesamiento. Por ejemplo, podemos encontrar esta idea en el artículo «Why Digital Sentience is Relevant to Animal Activists», escrito por Brian Tomasik, publicado el 3 de febrero de 2015 en la web Animal Charity Evaluators. También la organización antiespecista Ética Animal, en referencia al proyecto Robobee de la Universidad de Harvard, publicaba el 28 de mayo de 2015 una nota en Facebook sobre su posicionamiento respecto a esta cuestión: «si fabricas una réplica exacta del sistema nervioso de un ser sintiente, esa réplica será capaz de realizar exactamente las mismas funciones que tal sistema nervioso». Según este planteamiento, lo único relevante para generar un nuevo fenómeno físico es la estructura, no la materia. Esto queda rebatido por el hecho de que para crear un nuevo fenómeno físico, por ejemplo una reacción nuclear, es necesaria tanto una determinada estructura como un determinado material: si se simula una bomba nuclear pero en lugar de usar plutonio se usa hierro, no se generará una reacción nuclear. Por lo tanto, es una premisa errónea afirmar que el substrato material es irrelevante a la hora de inferir lógicamente la existencia del fenómeno de la conciencia.


Ban Lethal Autonomous Weapons (Link)

Inteligencia artificial conversacional. Un bot de charla o bot conversacional es un programa que simula mantener una conversación con una persona al proveer respuestas automáticas a entradas hechas por el usuario. Habitualmente, la conversación se establece mediante texto, aunque también hay modelos que disponen de una interfaz de usuario multimedia. Más recientemente, algunos comienzan a utilizar programas conversores de texto a sonido (CTV), dotándolo de mayor realismo a la interacción con el usuario. Para establecer una conversación han de utilizarse frases fácilmente comprensibles y que sean coherentes, aunque la mayoría de los bot conversacionales no consiguen comprender del todo. En su lugar, tienen en cuenta las palabras o frases del interlocutor, que les permitirán usar una serie de respuestas preparadas de antemano. De esta manera, el bot es capaz de seguir una conversación con más o menos lógica, pero sin saber realmente de qué está hablando.


SOFIA: El androide con Inteligencia Artificial (Link)
El creador se refiere a "consciencia", pero un robot no es consciente de nada, pues carece de conciencia.