[Betti Marenko] FutureCrafting: un método especulativo para una IA imaginativa

Betti Marenko Central Saint Martins, University of the Arts London La serie de simposios de primavera de la AAAI de 2018

(Traducción al castellano por Luis Asenjo Robles — N del T: la lista de referencias bibliográficas final se deja en su idioma original de publicación, ya que traducirlos induciría a error sobre qué edición se está citando.)

La cuestión que exploro en este artículo de posicionamiento concierne a los guiones culturales dominantes en torno a la Inteligencia Artificial (IA) y a la necesidad de imaginar narrativas distintas a la luz de la performatividad autónoma del aprendizaje automático. El objetivo es ofrecer una reflexión filosófica, no solo para eludir las narrativas del tecnodeterminismo, la distopía y el riesgo existencial para la humanidad, sino también para especular sobre cómo imaginar una IA (más) benévola basada en la incertidumbre y en la coevolución entre los seres humanos y la tecnología. El artículo presenta la metodología especulativa que denomino FutureCrafting: un método forense, diagnóstico y adivinatorio que investiga la posibilidad de otros discursos, igualmente capaces de construir realidad, de construir futuros y de tener un impacto tangible. FutureCrafting es especulación en la encrucijada entre el diseño y la filosofía, que gira en torno a la figuración abierta del ¿y si…? Articula la colaboración en lugar de la competencia, la coevolución en lugar del antagonismo, y privilegia lo indeterminado y lo imaginativo. Para concluir, el artículo hace referencia a la inteligencia no humana del pulpo y a cómo esta puede nutrir una IA más imaginativa.

Narrativas del algoritmo

Como objeto cultural de nuestro presente, el algoritmo pone en primer plano una narrativa tecnodeterminista dominante que retrata la computación como una noción casi mística (Finn, 2017) o incluso como una teocracia (Bogost, 2015). En esta narrativa, la racionalización y la lógica coexisten con el mito profundo: la creencia ancestral en fuerzas invisibles. Por un lado, a los usuarios y proveedores de contenido nos gusta creer que los algoritmos son procedimientos eficientes, lógicos y limpios (no lo son). Por otro, adoptamos un enfoque basado en la fe, la misma convicción que tendrían los antiguos buscadores ante el murmullo de un oráculo.

Los algoritmos crean realidad de maneras a la vez seductoras y evidentes, opacas y controladoras. Los usamos «como piezas de magia técnica cotidiana» (Finn, 2017, p. 16). Les confiamos muchas de nuestras elecciones —parejas, música, libros—; se nos concede o se nos niega crédito, empleo, seguro; se nos alimenta con resultados de búsqueda y actualizaciones de redes sociales hechos a medida. Y sin embargo, apenas entendemos cómo funcionan; de hecho, ni siquiera los propios programadores lo saben. La noción simplista del algoritmo como entidad procedimental de resolución de problemas, es decir, aquello que convierte preguntas en respuestas (según Google), ya no basta. En particular, no puede dar cuenta de la incertidumbre que crece en el núcleo mismo de la computación (Parisi, 2013, 2017). Hacen falta nuevas narrativas, capaces de convertir la incertidumbre en un activo, en lugar de reducir su ambigüedad y ofrecer explicaciones que dependan únicamente de modelos centrados en el ser humano.

Especulación sobre la IA

La importancia de la especulación surge cuando consideramos que el modo de funcionar del aprendizaje automático (ML, por sus siglas en inglés) es marcadamente inductivo, a diferencia de los enfoques deductivos tradicionales de la IA. El ML parte de comportamientos reales observables, expresados y capturados en forma de datos. A partir de ahí, se construyen modelos verificables de comportamientos dados; se realiza una serie de tareas (agrupamiento, clasificación, categorización, emparejamiento); y después se predicen comportamientos futuros similares.

A medida que el ML realiza una revisión y un refinamiento automáticos y continuos de sus modelos a partir de un suministro constante de datos nuevos, entramos en una fase metadigital (Parisi, 2017), en la que se están produciendo nuevos niveles de automatización del registro, la movilización y la comunicación. A medida que el modo operativo de la IA se desplaza de la validación al descubrimiento mediante la recuperación inductiva de datos y el entrenamiento recursivo, en el núcleo de este proceso encontramos incertidumbre, indeterminación e incógnitas. Cuando la máquina ya no se limita a buscar información, sino que combina y recombina datos para entrenarse a sí misma, la contingencia entra en el proceso y debe tenerse en cuenta. Esto tiene implicaciones profundas para las narrativas actuales sobre la IA, y debe orientar el modo en que imaginamos y conceptualizamos la IA del futuro próximo.

La teórica digital Luciana Parisi (2013; 2017) sostiene que, si la IA tiene su raíz en la incertidumbre, entonces debe entenderse como una forma no consciente de cognición, dotada de su propio modo de aprendizaje no humano. Para aclararlo: esto no significa defender una racionalidad maquínica prepotente, antagonista de la humanidad. Significa, más bien, reconocer que lo que las máquinas pueden hacer no coincide necesariamente con el modo en que piensan. Lo que hace falta, entonces, es una crítica especulativa del ML, inspirada en el razonamiento abductivo —la formulación de hipótesis interrogativas (del tipo ¿y si…?)— y finamente sintonizada con lo contingente, lo impredecible y lo incierto (Marenko, 2015). Esto es la especulación en acción: FutureCrafting, un método que prioriza la imaginación sobre la observación directa, y que busca capitalizar lo indeterminado. Los enfoques especulativos del diseño (Dunne y Raby, 2014) y el campo de la «ficción de diseño» (Coles, 2016) han mostrado cómo desplegar el diseño para sugerir alternativas a lo existente, que van de lo posible a lo inverosímil, con el fin de provocar debate, crítica y reflexión. Aunque FutureCrafting resuena con preocupaciones similares (y surge de ellas) y se dedica igualmente a ampliar el alcance de lo que el diseño puede hacer, pone sin embargo mayor énfasis en el marco teórico que sostiene sus métodos. Reconocer una herencia de ideas, conceptos y discursos filosóficos es un aspecto crucial de FutureCrafting, uno que a la vez fundamenta y impulsa su empeño. La práctica de impugnar las nociones heredadas de la tecnología, de inventar nuevos modos de interacción humano-máquina y de especular sobre futuros distintos, no puede desligarse del riesgoso negocio de operar en el límite mismo del pensamiento. Aquí es donde el poder de la imaginación para apropiarse de posibilidades alternativas se convierte en una herramienta radical de cambio y adquiere valencia política. El desafío sería entonces: ¿cómo explotar el potencial de la incertidumbre digital de maneras que alimenten nuevos modelos colaborativos de interacción humano-máquina? (Marenko y Van Allen, 2016).

El robot no existe

La obra del filósofo y tecnólogo francés Gilbert Simondon resulta esclarecedora en este punto (2017). Su noción de tecnogénesis, es decir, la evolución de los objetos técnicos, se basa en la idea de la cohabitación entre seres humanos y tecnología. Los objetos técnicos, incluidos los algoritmos y la IA, son siempre la expresión concreta y temporal de una evolución morfológica espontánea, que no depende exclusivamente ni de procesos naturales ni del diseño humano. Lejos de evolucionar de forma aislada, los objetos técnicos son el resultado de un proceso en el que las partes internas convergen y se adaptan según un principio de resonancia interna. Este proceso (la concretización) describe una convergencia de funciones mediante la cual el objeto adquiere una coherencia interna que lo impulsa más allá de la intención de su inventor. Así, aunque estén diseñados y fabricados por seres humanos, los objetos técnicos tienen una vida propia (Schmidgen, 2012).

Este argumento es importante por dos razones. En primer lugar, aporta un giro epistemológico que integra plenamente la tecnología en la cultura. La frontera entre lo natural y lo artificial, lo animado y lo inanimado, lo humano y lo no humano se difumina. Dicho de otro modo, podemos afirmar que los seres humanos ya están siempre entre máquinas y, de forma más amplia, entre todo lo que no es humano. Del mismo modo, los objetos técnicos y, más ampliamente, todo lo que no es humano, ya están siempre entre los seres humanos y coevolucionando con ellos. La segunda implicación de la tecnogénesis de Simondon es que nos ayuda a enmarcar y comprender cómo los objetos técnicos, a medida que evolucionan, adquieren autonomía: una perspectiva valiosa para conceptualizar el ML y especular de forma imaginativa sobre la IA. De hecho, esto implica también otra cosa: que hablar de inteligencia «artificial» es incorrecto. Solo hay una inteligencia, en constante transformación y evolución. Quizá este sea el verdadero sentido de lo que Simondon escribió en 1958: «El robot no existe».

Exótica consciente

Pero ¿cómo podemos ejercitar nuestra imaginación humana para especular sobre narrativas alternativas de la IA? Un punto de vista interesante lo ofrece el informático Murray Shanahan, quien plantea preguntas provocadoras en torno a lo que llama «el espacio de las mentes posibles», donde los seres humanos podrían encontrarse con formas de cognición radicalmente alienígenas y exóticas (2016). Al afirmar que «no hay razón para suponer que la capacidad humana de conciencia no pueda ser superada por algún otro tipo de ser», lleva al lector en un viaje imaginativo que explora esta posibilidad.

Lo que importa enormemente es el método. Al describir su experimento como «fantasioso», Shanahan pone de relieve la importancia de adoptar un marco de indagación especulativo a la hora de abordar los territorios inexplorados de la IA. Sitúa a una serie de entidades diversas, humanas y no humanas, en un diagrama cuyos dos ejes trazan la semejanza con lo humano (eje H) y la capacidad de conciencia (eje C). Una criatura como el pulpo, por ejemplo, puntúa alto en el eje C (es cognitivamente sofisticado), pero bajo en el eje H (resulta bastante difícil de comprender desde nuestra perspectiva humana).

«El tipo de entidad más exótico sería aquel que resultara del todo inescrutable, es decir, que quedara fuera del alcance de la antropología» (Shanahan, 2016). En otras palabras, los seres humanos tendrían que pensar de maneras radicalmente no antropocéntricas, reevaluando incluso qué es la conciencia humana. Puede que, continúa Shanahan, se requiera un giro: pasar de una noción monolítica de la conciencia —hecha de memoria, conciencia del mundo y de uno mismo, capacidad de empatía, integración emocional y cognitiva— hacia una forma de conciencia desagregada y más distribuida. Para especular con éxito sobre una IA imaginativa, entonces, una vía consiste en prescindir de la necesidad de imitar la biología humana y mirar, en cambio, lo que las inteligencias no humanas tienen que ofrecer.

Cognición cefalópoda

Las investigaciones recientes sobre cefalópodos, y sobre el pulpo en particular, muestran que estas criaturas pueden ser especialistas en sistemas de control distribuido (Grasso, 2014; Godfrey-Smith, 2016). Algunos tipos de pulpo (el pulpo común, Octopus vulgaris) poseen menos neuronas en el cerebro que en el sistema nervioso periférico. Con dos tercios de sus neuronas situadas en los brazos, el pulpo tiene, en la práctica, dos cerebros. Su sistema neuronal está excepcionalmente descentralizado. Sus brazos son agentes autónomos. Gracias a este sistema descentralizado de procesamiento de la información, el pulpo puede ofrecer una perspectiva innovadora sobre la arquitectura neuronal y la cognición distribuida eficiente (Laschi, 2016). El cerebro del pulpo no emite órdenes de arriba abajo para cada pequeño movimiento de los brazos. Aunque el cerebro inicia el movimiento, son los centros motores inferiores los que controlan la actividad neuromuscular precisa. Los experimentos han demostrado que un brazo seccionado seguirá actuando, buscará alimento y, una vez lo encuentre, lo llevará hasta el lugar donde se supone que está la boca. Más notable aún: los miembros del pulpo no necesitan una dirección exhaustiva para producir el movimiento deseado, sino que responden a los estímulos del entorno de forma adaptativa. Cada uno de sus ocho brazos puede considerarse una compleja estructura de procesamiento de información distribuido, capaz de actuar y resolver problemas de forma autónoma. Por ejemplo, mientras el pulpo está ocupado explorando una cueva, uno de sus tentáculos puede estar hurgando en un marisco.

Como ejemplo paradigmático de cognición encarnada y distribuida, no es de extrañar que el pulpo se haya convertido en un modelo para la investigación en robótica blanda e IA. Esto ha dado lugar al primer octobot enteramente blando, desarrollado recientemente por científicos de Harvard (Burrows, 2016). Asimismo, inspirándose en el comportamiento del pulpo, el roboticista Alfonso Íñiguez (2017) ha diseñado un sistema con una CPU que no gasta recursos microgestionando coprocesadores, exactamente igual que el cerebro central del pulpo no gasta recursos microgestionando sus brazos. El potencial de imitar el complejo sistema neuronal del pulpo también lo estudia el contratista de defensa y corporación industrial estadounidense Raytheon (2016), que lleva a cabo experimentos de robótica con una red de máquinas que trabajan juntas de forma semiautónoma mediante la coordinación de una unidad de mando central y un conjunto de agentes independientes. Se prevén aplicaciones en el diseño de robots bípedos autoequilibrados, gracias a la capacidad del cerebro central para delegar (Íñiguez, 2017). Hay aquí paralelismos con la «computación de borde» (edge computing), el procesamiento y análisis avanzados en el propio dispositivo (Talluri, 2017), donde la computación de la IA se empuja hacia el borde de la red (en lugar de hacia la nube), tan cerca del sensor o el actuador como sea posible.

Como quizá la forma de inteligencia alienígena más cercana que podemos estudiar, el pulpo es el plano maestro para el desarrollo de una IA autónoma con redes neuronales que se adaptan al entorno y aprenden de él. Podría ofrecer la semilla de una nueva narrativa enraizada en la conciencia no humana.

FutureCrafting

Los estudios en la intersección entre el diseño y la sociología señalan la necesidad de combinar métodos de diseño especulativo con metodologías propias de las humanidades para captar eventos sociales que son ontológicamente abiertos, procesuales y emergentes (Michael, 2012; Smith, 2016). Yo sostendría que el panorama narrativo futuro de la IA exige un enfoque especulativo. Ampliando esta «creación inventiva de problemas» (Michael, 2012), FutureCrafting reconceptualiza la contingencia y repiensa la incertidumbre, tratando ambas como un material con el que trabajar, en lugar de como un riesgo o una amenaza que evitar.

FutureCrafting le da forma al futuro, y lo hace aquí y ahora. El futuro tiene que ver con especular, pero evitando la trampa de escapar hacia una fantasía de lo que el futuro podría o debería ser. En cambio, FutureCrafting captura el futuro, lo agarra y lo trae de vuelta al aquí y ahora, para así informar el presente. Ahí está la parte de Crafting: la artesanía pertenece exquisitamente al ahora. FutureCrafting es especulación mediante el diseño, una estrategia performativa antes que descriptiva, cuyas intervenciones están diseñadas para incitar, sondear y problematizar, para inyectar ambigüedad e incluso lo no racional y lo sin sentido. Tomando prestadas las palabras de la filósofa Isabelle Stengers sobre las «metodologías especulativas», FutureCrafting es una práctica que «afirma lo posible, que resiste activamente lo plausible y lo probable, en los que apuntan los enfoques que se pretenden neutrales» (Stengers, 2010, p. 57).

Enmarcado de este modo, FutureCrafting es una estrategia y un ardid para conjurar nuevas figuras del pensamiento. Proporciona un conjunto de herramientas a la vez forenses, diagnósticas y adivinatorias. Es forense porque toma las cosas como testigos para articular lo existente. Es diagnóstico porque inventa hipótesis explicativas de forma interrogativa —como se ha dicho, se apoya en la abducción, y no está constreñido ni por una teoría a priori ni por una verificación a posteriori. Es adivinatorio, porque atrae imágenes futuras en torno a las cuales pueden cuajar nuevos pensamientos.

FutureCrafting prioriza la imaginación sobre la observación directa, busca las hipótesis menos familiares, aquellas sin respuesta verificable, y se inclina hacia la producción de lo que todavía no existe. Lo impulsa la pregunta ¿y si…? Precisamente porque guarda afinidad con prácticas volcadas en adivinar, predecir y conjurar, resulta un instrumento excelente para sondear lo que el ML está haciendo hoy y hará mañana.

Biografía

Betti Marenko es teórica del diseño, académica y docente. Tiene formación en filosofía, sociología y estudios culturales, y una década de experiencia en la enseñanza del diseño. Su enfoque interdisciplinario reúne los estudios de diseño, la filosofía continental y el análisis de las culturas digitales para investigar las relaciones entre el diseño, la sociedad y las tecnologías, y su papel en la configuración de futuros posibles. El trabajo de Betti aparece con regularidad en congresos internacionales, antologías y revistas revisadas por pares como Design and Culture, Design Studies y Digital Creativity. Es coeditora de Deleuze and Design (Edinburgh University Press, 2015, junto con Brassett), el primer libro en utilizar a Deleuze y Guattari para proporcionar un nuevo marco teórico para la teoría y la práctica del diseño. Es directora del programa de Estudios Contextuales para Diseño de Producto en Central Saint Martins, University of the Arts London, Reino Unido.

Declaración

Actualmente estoy escribiendo un libro titulado Digital Uncertainty. Between Prediction and Potential in Algorithmic Culture, que investiga la nueva lógica contingente de la computación planetaria y su impacto en la sociedad, los públicos y las subjetividades. El libro examina los efectos de la creciente autonomía e imprevisibilidad de las tecnologías digitales, los algoritmos de aprendizaje automático y la IA. Al conectar la filosofía y la teoría computacional con el diseño, mi investigación aporta un enfoque interdisciplinario y holístico a la cuestión de la incertidumbre digital, y abre un debate sobre su potencial aún inexplorado. Me interesa poner en diálogo a desarrolladores de IA, diseñadores de interacción y de diseño especulativo, programadores e ingenieros, para aportar nuevas perspectivas sobre la experiencia digital, interrogar las posiciones teóricas actuales y nutrir los debates interdisciplinarios sobre la interacción humano-máquina. El simposio ofrecerá esta oportunidad.

Referencias

Bogost, I. 2015. The Cathedral of Computation. The Atlantic. https://www.theatlantic.com/technology/archive/2015/01/the-cathedral-of-computation/384300/

Burrows, L. 2016. The First Autonomous, Entirely Soft Robot. Harvard Gazette, 24 August. http://news.harvard.edu/gazette/story/2016/08/the-first-autonomous-entirely-soft-robot/

Coles, A. ed. 2016. Design Fiction. Berlin: Sternberg Press.

Dunne, A. and Raby, F. 2014. Speculative Everything. Design, Fiction and Social Dreaming. Cambridge, Mass. and London: MIT Press.

Finn, E. 2017. What Algorithms Want. Imagination in the Age of Computing. Cambridge, Mass. and London: MIT Press.

Godfrey-Smith, P. 2016. Other Minds. The Octopus and the Evolution of Intelligent Life. London: William Collins.

Grasso, F. W. 2014. The Octopus with Two Brains: How are Distributed and Central Representations Integrated in the Octopus Central Nervous System? In Darmaillacq, A., Dickel, L., and Mather, J. eds. Cephalopod Cognition. Cambridge: Cambridge University Press. 94-122.

Íñiguez, A. 2017. The Octopus as a Model for Artificial Intelligence – A Multi-Agent Robotic Case Study. In Proceedings of the 9th International Conference on Agents and Artificial Intelligence, 2: ICAART, 439-444, Porto, Portugal. http://www.scitepress.org/DigitalLibrary/PublicationsDetail.aspx?ID=QNu8OYOoE1c=&t=1

Laschi, C. 2016. Robot Octopus Points the Way to Soft Robotics With Eight Wiggly Arms. IEEE Spectrum. https://spectrum.ieee.org/robotics/robotics-hardware/robotoctopus-points-the-way-to-soft-robotics-with-eight-wiggly-arms

Marenko, B and Van Allen, P. 2016. Animistic Design: How to Reimagine Digital Interaction between the Human and the Nonhuman. Digital Creativity. Special issue: Post-anthropocentric Creativity. Stanislav Roudavski and Jon McCormack eds. London: Routledge. 52-70.

Marenko, B. 2015. When Making becomes Divination: Uncertainty and Contingency in Computational Glitch-Events. Design Studies 41. Special issue: Computational Making. Terry Knight and Theodora Vardoulli eds. London: Elsevier: 110-125.

Michael, M. 2012. De-signing the Object of Sociology: Toward an 'Idiotic' Methodology. The Sociological Review, 60(S1): 166-183.

Parisi, L. 2017. Reprogramming Decisionism. e-flux 85. www.e-flux.com/journal/85/155472/reprogramming-decisionism/

Parisi, L. 2013. Contagious Architecture. Cambridge, Mass. and London: MIT Press.

Raytheon 2016. Synthetic Smarts. With Learning Robots and Emotional Computers, Artificial Intelligence becomes Real. www.raytheon.com/news/feature/artificial_intelligence.html

Schmidgen, H. 2012. Inside the Black Box: Simondon's Politics of Technology. SubStance 41(3, 129). Madison: University of Wisconsin Press. 16-31.

Shanahan, M. 2016. Conscious Exotica. Aeon. https://aeon.co/essays/beyond-humans-what-other-kinds-of-minds-might-be-out-there

Simondon, G. 2017. On the Mode of Existence of Technical Objects. Minneapolis: Univocal.

Smith, R.C. et al. eds. 2016. Design Anthropological Futures. London: Bloomsbury.

Stengers, I. 2010. Cosmopolitics I. Minneapolis: University of Minnesota Press.

Talluri, R. 2017. Why Edge Computing is Critical for the IoT. NetworkWorld. 24 October. https://www.networkworld.com/article/3234708/internet-of-things/why-edge-computing-is-critical-for-the-iot.html