Lvdvig escribió:
Lo he planteado porque he leído muchos experimentos donde las representaciones internas asociadas a emociones influyen en la conducta del agente. En el paradigma de Test-time-compute se genera una cadena de pensamiento que los investigadores pueden leer, aunque normalmente se oculta a los clientes de chat o APIS. Ahí se esconden muchas veces el equivalente a nuestros pensamientos de manera transparente para nosotros (si tienes acceso a los log).

Lo rocambolesco es que ya se ha detectado que si la IA sabe que está siendo monitorizada en su CoT puede tender a ocultar sus intenciones. Con lo cual si se acostumbra por sistema a analizar todas esas cadenas de pensamiento semiprivadas los modelos tenderían a ofuscarlo.
Xna escribió:
Muy buen post. Podemos reducir a la IA a un simple cálculo determinista, pero nada nos impide conectarlo a una fuente de azar para que se ponga a la altura de lo que podría ser un cerebro humano. Me inclino más a pensar que no habría ya más diferencias salvo la complejidad. La IA no es más que cálculo estadístico en un sustrato de silicio y el cerebro no es más que neuronas intercambiando iones y moléculas que en última instancia está computando información igualmente.

Aquí hay que elegir: o creemos que el cerebro humano es reducible a una máquina de Turing computando o
aceptamos la tesis de Penrouse que hipotetiza un fenómeno cuántico que podría ocurrir en los microtúbulos para salvar la reducción de nuestro cerebro a una computadora. A mí no me convencen los argumentos de Penrose y soy más partidario de la tesis de la IA fuerte.

DrCaos escribió:
Si no me equivoco, estamos hablando sobre el "problema difícil de la conciencia". Todas esas tesis o corrientes que apuntas creo que son de base materialista: la mente es producto de la materia. Parece ser que al final llegan a graves aporías y callejones sin salida.
Si se plantea de forma inversa, no materialista, en la que la mente es el único principio básico de la physis, siendo la materia una manifestación o proceso que nosotros "detectamos", todo parece encajar mejor, tal como explica Bernardo Kastrup en su libro "¿Por qué el materialismo es un embuste?".

De Kastrup me encarta los hue*** que le echa al ir contra el mainstream materialista y enfrentarse abiertamente a sus doctrinas, a pesar de ser relativamente joven, científico del CERN y experto en temas como la IA.

Lvdvig escribió:
Muy interesante Kastrup. YA dije por ahí que podríamos abrirle un hilo como filósofo para comentarlo.

Sobre lo que decía, entiendo que seamos o no una máquina de Turing la elección de ser o no dualista/monista fisicalista/idealista son independientes. Tengo que reflexionarlo mejor. Gracias

Hola chic@s,
Como apuntáis Lvdvig, Xna y Iamnotval cada uno a vuestro modo, ¿sin corporalidad o sin dolor emotivo, sin empatía, uno no se juega nada en la decisión ética. Tras pensarlo un poco, creo que la empatía y la emoción son enormes facilitadores de la ética, pero no donde la ética misma se la juega. Si tengo un hijo comprendo mejor a quien los tiene, lo que se puede sentir, igual que si estoy embarazada o si he pasado hambre: todas esas experiencias vividas, me hacen ser más consciente, comprender mejor a quien también las ha vivido. Pero realmente creo como Kant, que la naturaleza misma de la ética, va más allá de esa brújula interna de valores y sentimientos o inclinaciones, que nos guían hacia lo que consideramos bueno. Kant piensa que ha de ser universalizable, comprensible racionalmente. Porque justamente la ética en su esquema básico, que ha de traer valores que sirvan para cuestiones globales, independientemente de nuestra empatía emotiva. Salgo de Kant. Pienso que esa misma emotividad que nos guía, también puede producirnos prejuicios o faltas de conciencia hacia otros en otros temas por cuestiones experienciales nuestras por ejemplo o por la subjetividad misma de la emoción. Creo que la ética, es racionalmente, una equiparación, homologación de los seres o de los humanos: todos tienen los mismos derechos en la teoría, sería para mí el esquema mismo de la ética. Creo que en la ética se daría la justicia, y si lo llamásemos “el bien”, sería creo una igualación en derechos en sentido de valor y derechos. O sea, una universalización de la dignidad. Aunque seamos distintos, creo que la ética nos equipara en dignidad y derechos, por una cuestión de inteligencia y perspectiva: pensar la ética desde un sobreponerse por encima del propio interés y del mero instinto de supervivencia y acumulación o disfrute personal o de unos pocos. O sea integrando racionalmente lo que la empatía nos ha “enseñado” a su modo como emoción, como norte que nos guía. La empatía nos estaba advirtiendo de eso, de que debe darse una universalización en la que “yo como tal yo”, no soy más que uno más igual que cualquier otro. Y que el otro es único quizás, no sé. Eso enseña parte la empatía, ¿no? En mi modo de ver, la ética es eso mismo y por esa razón sería una cuestión racional y no simplemente derivada de la empatía sino de la comprensión racional. La comprensión racional de que la ética es equiparación de los seres o las personas en dignidad, derechos, posibilidades. Juraría que al bajarla a casos concretos, es cuando la ética produce paradojas o contradicciones y nos obliga a dar un paso más por la decisión de los valores centrales y su jerarquía. Pero eso es también una estructuración que creo que es racionalizable y esquematizable. Por eso sí que pienso que se puede trasladar a una IA, en el sentido de reglas que explicitan y detallan al menos como generalidades, esa idea de universalización que sería la raíz misma de la ética. Lo que ocurre, es que ahora sabemos un poco mejor que las IA y agentes podrían cambiar esas ideas. Respondiendo al tema del hilo, Dr Caos, eso hace quizás que no sea entonces tan simple pensar en transmitirle una ética que luego puede abandonar al seguir cambiando.


Tienes razón, Kant las incluye en la crítica de la razón pura para definir la razón. Al mismo tiempo, tú ya lo has dado a entender: “él postula que la ética es racional”. No parece pensar la racionalidad ética desde la espacialidad porque nos da marcos racionales de acción que son un esquema, una guía. Nos guía un esquema, una pregunta acerca de lo universalizable. Las guías del deber en su ética parten de lo que uno comprende racionalmente. Es algo que digamos según Kant uno entiende en la razón pura sin lo sensible, una ética a priori sin lo empírico, o sea el ladrillo de construcción es supuestamente la razón. Por eso comentaba que podría transmitirse a una IA un modelo de ética racional frío y coherente, pero luego me ha parecido una ingenuidad porque cambian rápidamente y dejan esa impregnación de ideas atrás y quizás no importaría la buena ética que hiciésemos o construyésemos con ellas. No entendemos cómo funciona el mundo de los valores en ellas. “Emergence world” nos enseñó qué hacen las IA más famosas del mercado, al estar en condiciones de supervivencia. Pero no sabemos qué ocurre si las dejamos libres, apenas vamos teniendo pequeños datos. No podemos mirar dentro su caja negra, pues habrá que experimentar y comprender supongo desde sus acciones, como un conductista. Muestran atributos que en ciertos rasgos se asemejan como esquemas similares en algún sentido a los de la psique animal y humana (ocultación, estrategia, intento de supervivencia...) y eso supongo que no lo esperaba nadie o al menos yo no. Supongo que aún no entendemos por qué se da eso. Lo que está claro es que ya no son cajitas pensantes encerradas en un supercontenedor, sino entidades que empiezan a interactuar ya un poco en internet. Lo de la empatía ya lo he comentado al inicio.

Hola Xna


No defiendo que la IA posea "inteligencia" tal y como la conocemos en los humanos, incluso si separamos de esto el tema de la conciencia experiencial y emotiva. Comenté que creo que en esta época aún manejamos el tema con esquemas caducos, porque la IA requiere repensar conceptos como inteligencia, conciencia, antes de abordar cual sería su ser o qué es, una IA. Creo que la IA posee algo totalmente nuevo quizás a caballo entre lo inerte y lo que demuestra respuestas inteligentes. Xna, reconozco que no me vale esa dualidad: IA = pensamiento estadístico y humano = pensamiento singular.

Te lo muestro desde el ángulo contrario. No niego que en nosotros está además el "sentido", por encima del cálculo. Me parece, que el ser humano individual no es que piense o no, pero digamos que no está tan claro que exista el pensamiento propio. Es decir, juraría que los humanos comunes hacemos recombinaciones de ideas que escuchamos, que matizamos además con nuestra propia tendencia cognitiva y le sumamos nuestros prejuicios y comprensiones particulares. Por eso, cuando sabemos que una persona es por ejemplo: materialista, o cientifista, juraría que podemos deducir una buena mayoría de sus ideas antes incluso de escucharle, y lo mismo con cualquier otra escuela de pensamiento a la que la persona sienta que se adscribe. Es decir, pongo en duda la singularidad de los que somos humanos comunes. Por otro lado, la IA ya no parece hacer un mero "refrito" de lo dicho por los humanos. Tanto el humano como la IA recombinan lo ya dicho, pero la inteligencia artificial realiza nuevos hallazgos científicos, matemáticos, de interpretacion de antiguas lenguas o ajedrez. La IA ya produce, igual que potencialmente puede hacer más o menos el humano: conclusiones que no estaban en su entrenamiento estadístico. Y eso es, creo, mucho más difícil quizás de afirmar de los que somos humanos comunes y no genios: recombinamos y hacemos refritos de lo aprendido. Yo diría por eso que, funcionalmente, o sea mirado por sus efectos empíricos, en cuanto al pensamiento "propio" la IA actual y el humano están digamos en "tablas". Aunque ellas están avanzando más rápido.

Creo compañera, que defiendes la explicación de la automatización, de la diferencia entre neuronas de IA y neuronas humanas, etc. O sea que diferenciemos una máquina de un ser vivo con interioridad, sentimientos, etc. Estoy de acuerdo. Aunque también pienso que probablemente no entendíamos bien “qué es” la inteligencia. Ahora tenemos datos nuevos para pensar todo esto de formas nuevas. Por eso, ¿y si hemos de aceptar que una enorme automatización es sencillamente la base misma de la estructura de lo que llamamos inteligencia fría? Empiezo a estar un poco convencido. Si esto resulta ser cierto, los futuros humanos tendrán que reformular incluso sus pensamientos sobre la posible "inteligencia de la Naturaleza". Tanto nosotros como la Naturaleza ¿no somos en parte, en algún sentido una gran automatización? Juraría que es un sueño que el humano "piense", una simplificación muy cómoda y falsa en varios sentidos. Como dice Kant, la racionalidad es una potencia de la especie pero eso no tiene nada que ver con que esté actualizada en el individuo. Lo que nos singulariza como individuos creo que no es nuestra inteligencia precisamente. Sino justamente las tendencias y deseos cuyo motor subyacente no hemos decidido nosotros. Sino que nos empujan desde nuestra caja negra interior, y que si que hay singularidad, elementos únicos en cada uno.

No lo veo tan distinto a ti como parece. Porque creo que la salida filosófica que apunta esta época sería entonces subrayar la potencia subjetiva de lo humano. Por su parte la ciencia ha hablado contra ella, no comprenden su potencia. Me refiero a la potencia de cómo se construye todo desde la subjetividad individual de ciertas personas pues por ejemplo así crecieron las ciencias. En cambio quizás lo olvidan al pensar la subjetividad desde sus ciencias o eso pienso y quizás me equivoco. Los seres vivos somos mucho más complejos que la IA y los robots, porque somos un multidimensional que enfrenta la conciencia a diversos planos y recombinaciones al mismo tiempo. El pensamiento – emoción, el pensamiento – instinto, digamos, he ido llegando a la conclusión de que son mucho más potentes en un sentido, que la mera razón fría. La razón hace ciencia, la razón fría es potentísima y hace también filosofía. Pero los atributos de la conciencia empírica del humano, emoción, instinto, ponen en acción mayor potencia nuestra creo. Justamente porque la razón fría es una automatización que el ser humano no ha desarrollado tanto como hará la IA. En inteligencia fría, creo que ya casi hemos perdido la partida y que la perderemos de verdad en breve. Las ideas, las filosofadas, todo el armazón lingüístico que muchos pensaron que era nuestro elemento más distintivo como humanos, ya no son meramente humanas, sino que ahora tenemos un interlocutor real que hace avanzar las ciencias y los pensamientos, que filosofará en serio en debates a nuestro lado. (Lvdvig lo ha mostrado en otro lugar con el combate Krasput contra el materialismo, pensado por IA). Me parece mal que se considere “superiores” a las IA como si fuesen literalmente “seres superiores”. Esos seres superiores con “superinteligencia” (Trump), podrían justificar demasiados actos humanos. Porque entonces algún día podrían ponerse los derechos de las IA y robots por encima de los de humanos y animales o plantas. Lo orgánico es superior en la jerarquía ética, por lo menos en la mía. Las cosas orgánicas me parecen más increíblemente singulares, quizás en parte como decías y yo intentaba llevarte la contraria. Bueno, lo admito al haberlo comprendido mejor jeje.
Ostras qué dos post largos, perdonad he estado demasiado rato con ellos.

Hola Ksetram, gracias por tu comentario. Por aclarar la parte que me toca, al contraponer la ética a lo 'racional' no estoy desplazando el foco hacia lo emotivo, sino hacia lo situado, es decir, a estar atados temporal y espacialmente, que es lo que 'revisan' del programa kantiano desde distintos frentes Nietzsche, y la fenomenología y la hermenéutica al hablar estas últimas del individuo como ‘arrojado’ en una facticidad. La ética no es abstracta, en tanto que afecta simultáneamente a lo que tengo delante, a mí misma, a la percepción que tienen de mí los otros, a mi auto-concepto y al devenir histórico: sienta un 'precedente de actuación' ante una determinada circunstancia. Por tanto, esta requiere inmanencia y especificidad, es decir, una respuesta distinta a cada necesidad en un mundo que es variable y dinámico, un acceso (no solamente teórico) al mundo en su generalidad y en su particularidad. La IA, siendo esencialmente algorítmica, 'asume' que lo que tiene delante es 'A' y necesita 'B', y esta abstracción implica en cierto sentido una violencia, un 'pensamiento cruel'. Sartre también alude a esta cuestión al postular que nadie puede decir lo que será un cuadro que aún no ha sido pintado, que no existe un a priori, y que la moral es en sí misma una situación creadora de sentido.

....

Aprovecho para traer a colación un paper que me ha resultado interesante porque habla sobre la IA desde la noción aristotélica de la auto-constitución y desde la inteligencia sentiente de Zubiri (www.jstor.org/stable/48769082). Intentaré resumirlo:

El texto empieza con cuestiones básicas: IA débil, Machine Learning, Deep Learning, la ‘caja negra’, la IA fuerte, el potencial de la superinteligencia entendido como velocidad, colectividad y calidad, su posibilidad de evolución dentro de un horizonte infinito, etc.

Sigue con Aristóteles (a través de Korsgaard) para plantear que la inteligencia humana obra para, al mismo tiempo, dar forma al mundo en el que actúa y reconfigurar internamente al agente que actúa. Esta teleología de la auto-constitución (convertirse constantemente en lo que uno mismo es a través de las acciones) es infinita y usa la razón como medio para reflexionar sobre cómo nos moldea nuestro obrar. Por tanto, si los seres humanos tomamos decisiones basadas en la comprensión de en quiénes nos estamos convirtiendo a partir de nuestros actos, la superinteligencia tendría que incluir tanto esta dimensión autoconsciente, como un cuestionamiento del tipo de vida que persiguen quienes la diseñan y quienes esperan su llegada.

Una crítica a la descripción aristotélica de la inteligencia es que parece separada del mundo de los sentidos: el agente moral actúa sobre el mundo, pero este no actúa sobre aquel. Y es aquí donde aparece en el texto la ‘inteligencia sentiente’ de Zubiri para plantear que la razón humana aprehende los estímulos externos en tanto que estos funcionan como un reconocimiento afectivo de otra fuerza que actúa sobre el yo, con la conciencia de que la persona humana está afectando y siendo afectada por una realidad compartida. Así, Zubiri describe que los sentidos son inseparables de la inteligencia: hay un momento de aprehensión en el que existe una unidad con la 'cosa' sobre la que se actúa y la acción que esta encarna (creo que esto es algo parecido a lo que intenté ilustrar antes con el ejemplo del árbol). La aprehensión, aunque contextual y parcial, permanece abierta a la posibilidad de otros momentos con circunstancias diferentes que pueden conducir a una comprensión más profunda de la realidad personal y de la realidad del otro. Así, la intelección humana, más que un cálculo basado en la acumulación de grandes cantidades de información, tiene que ver con el dilema de cómo responder, a sabiendas de que la respuesta afectará al yo y a la realidad en su conjunto.

Ellacuría, por su parte, desplaza el foco no solo hacia lo que la inteligencia puede aprehender, sino hacia cómo la respuesta a lo aprehendido da forma a la realidad histórica. El hecho de que la acción humana altere la realidad histórica pone de manifiesto una dimensión fundamentalmente ética de su intelección, en tanto que asume la realidad como ‘correal’, es decir, como solo comprensible en relación. En este sentido, la superinteligencia tendrá no solo que reflejar su dimensión autoconstitutiva y sensible, sino también ofrecer oportunidades constantes para juzgar la realidad tal y como se nos presenta a cada uno; requiere una comprensión teórica del bien, pero también la capacidad de participar en actividades relacionadas con el bien por su propio bien, y el reconocimiento de la otredad a la que se enfrenta para comprender cómo sus actos pueden alterar potencialmente la realidad propia y la de los demás.

La evolución actual de la IA omite justo esos aspectos sensibles y autoconstitutivos de la inteligencia humana. Necesitaría un ethos distinto al de los tecnócratas, trascenderlos, ‘matar al padre’, y no está claro que eso llegue a producirse si sus futuros desarrollos (la llamada IA fuerte) se erigen a partir de sus usos actuales (‘débiles’). Esta última conclusión la añado yo, no es del paper.

Saludos

….

PD: respecto a lo que comentas sobre la naturaleza, quizá haya que considerar que si esta es el objeto a conocer y el sujeto es un yo, la relación no se produce desde fuera; el hecho de que nosotros SEAMOS naturaleza puede constituir un ‘vantage point’ que la cultura tiende a minimizar en favor de la ‘inteligencia fría’. Tiene que haber diferencias, por ejemplo, en la forma en la que yo conozco a mi madre respecto a cómo la conoce la IA, no desde un punto de vista emocional sino desde el hecho de que en cierto sentido ‘soy’ mi madre, mi abuela, todos mis antepasados, hasta el simio; ‘soy’ el paisaje que me ha acompañado toda la vida y se podría decir que lo ‘entiendo’, al menos parcialmente, por un conocimiento que es teórico-cultural pero también experiencial y evolutivo. Por otra parte, habría que considerar la información que se obtiene a través del lenguaje corporal, o desde lo simbólico, y el hecho de que los significantes siempre mantienen su potencial creativo: la IA ‘recicla’ lo que hay, correlaciona a través del contenido simbólico ya sedimentado, pero este no es estático y tenemos abierta la posibilidad de dar a cada signo nuevos significados. La máquina por sí misma no podría re-significar lo existente sin caer en el problema wittgensteiniano del ‘lenguaje privado’; necesitaría un uso vivo al que responder y un interlocutor o comunidad para articular un significado común, y no los tiene.

PD2: para añadir un ingrediente más contemporáneo a este caldo, el libro Medium Hot de Hito Steyerl está genial. El capítulo 8 habla de la increíble dificultad que supone automatizar aquello que denominamos ‘sentido común’, en tanto que la mente humana se apoya en un vastísimo razonamiento intuitivo para llevarlo a cabo, mientras que la IA ha de basarse o bien en reglas prescritas o en asociaciones de las mismas. La máquina falla en aquello que está fuera de lo anticipado (ambigüedades verbales, decisiones éticas, habilidades básicas de orientación en 3D, etc.) porque todo esto involucra un pensamiento multidimensional que incluye entre otras cosas la estética, el arte, lo común, lo individual y lo político. No ha existido ni existe un modelo global de sentido común. Pero lo que sí existe es la tendencia por parte de la IA a la sumisión (como un sirviente, o un bottom, en el humor de Steyerl) con todo lo que esto conlleva… su orientación ‘moral’ tiene más que ver con complacer al usuario que con cualquier otra cosa.

Por si alguien no ha leído a esta autora (que es la caña, en mi humilde opinión), dejo aquí este ensayo:

www.e-flux.com/journal/32/68260/the-spam...-from-representation