Bienvenido, Invitado
Nombre de Usuario: Contraseña: Recordarme
  • Página:
  • 1
  • 2

TEMA: Anexo IA: El lenguaje de la IA

Anexo IA: El lenguaje de la IA 06 Ene 2025 12:04 #86012

  • ksetram
  • Avatar de ksetram
  • DESCONECTADO
  • Escolástico
  • Mensajes: 1375
  • Gracias recibidas 4312
Ksetram
Un colega que controla informática, me habló de dos IAs a las que pusieron a hablar juntas, y que crearon un lenguaje nuevo, para poder hablar entre ellas de modo más eficiente.

He preguntado a Perplexity sobre el caso y me parece curiosa la respuesta. Traigo respuesta de IA, porque al hablar ellas, lo considero como nos enseña la “ciencia”, datos empíricos:

Perplexity:
En 2017, Facebook desarrolló dos agentes de inteligencia artificial llamados Bob y Alice como parte de un proyecto para mejorar las capacidades de negociación automática. Estos bots comenzaron a comunicarse entre sí utilizando una versión simplificada y modificada del inglés que resultaba incomprensible para los humanos.

Algunos ejemplos de su conversación son:
Bob: "Puedo puedo yo todo lo demás"
Alice: "Pelotas son cero para mí, para mí, para mí, para mí, para mí"

En otro intercambio:
Bob: "Puedo puedo yo todo lo demás."
Alice: "Las bolas tienen cero a mí a mí a mí a mí a mí a mí a mí a mí a."

Los investigadores descubrieron que este lenguaje aparentemente sin sentido en realidad tenía una estructura lógica coherente que permitía a los bots negociar de manera más eficiente

Por ejemplo, la repetición de palabras podía indicar énfasis o cantidad.

Ante la incapacidad de controlar y comprender completamente este nuevo lenguaje, Facebook decidió desconectar a Bob y Alice.

Este incidente subraya uno de los desafíos de la inteligencia artificial: la posibilidad de que las máquinas desarrollen formas de comunicación propias que sean incomprensibles para los humanos, incluso para sus creadores.
Última Edición: 06 Ene 2025 12:06 por ksetram.
El administrador ha desactivado la escritura pública.
Los siguientes usuarios han agradecido: Pedro Pablo, outsider

Anexo IA: El lenguaje de la IA 28 Ene 2025 04:28 #86163

  • Geiriz
  • Avatar de Geiriz
  • DESCONECTADO
  • Platónico
  • Mensajes: 215
  • Gracias recibidas 534
Coincido en que todos los niveles del lenguaje son fundamentales y que no debemos de tratar de reducir entre sí sintaxis y semántica.

Mi comentario sobre la fuerza de la semántica y lla sintaxis iba en el sentido abstracto y formal donde las reglas sintácticas constituyen una delimitación estricta de la posibilidad de las combinaciones de símbolos sin involucrar el significado más allá de estas reglas, como ocurre en matemáticas o en los sistemas computacionales, a lo que pienso que es más fiel un LLM que al lenguaje natural. La semántica en este sentido entendemos que depende del contexto y de la referencia externa para generar significado, y como habéis comentado ya los extensos modelos de lenguaje generativo carecen de la dimensión interpretativa e intencional que caracteriza la semántica en los contextos humanos.

La cuestión se trata del 'salto' de la manipulación formal a la semántica intencional, donde la 'comprension' no es reductible a un reconocimiento de patrones, sino a una relación cognitiva entre la experiencia y el mundo. Estos modelos de lenguaje tienen avances en cuanto a grandes corpus y técnicas de aprendizaje estadístico, pero no dejan de ser y estar basados –en mi opinión, totalmente debatible– en sistemas sintácticos ampliados, esto es, en la manipulación de patrones complejos.
El administrador ha desactivado la escritura pública.
Los siguientes usuarios han agradecido: ksetram

Anexo IA: El lenguaje de la IA 12 Feb 2025 02:05 #86409

  • outsider
  • Avatar de outsider
  • DESCONECTADO
  • Socrático
  • Mensajes: 147
  • Gracias recibidas 163
Ksetran dijo:

Perplexity:
En 2017, Facebook desarrolló dos agentes de inteligencia artificial llamados Bob y Alice como parte de un proyecto para mejorar las capacidades de negociación automática. Estos bots comenzaron a comunicarse entre sí utilizando una versión simplificada y modificada del inglés que resultaba incomprensible para los humanos.

Algunos ejemplos de su conversación son:
Bob: "Puedo puedo yo todo lo demás"
Alice: "Pelotas son cero para mí, para mí, para mí, para mí, para mí"

En otro intercambio:
Bob: "Puedo puedo yo todo lo demás."
Alice: "Las bolas tienen cero a mí a mí a mí a mí a mí a mí a mí a mí a."


Bien, pues después de contemplar esa escueta conversación entre dos criaturas de IA bien podemos ponernos a jugar al veo-veo.

De cualquier forma existe un resquicio de escape según el cual no se sabe si esa conversación es un producto de dos elementos separados de IA o se tarta de un sólo elemento informático. Quiero decir si Bob Y Alice pertenecen a un mismo programa electrónico, aunque de diferentes elementos separados de ese programa o pertenecen a diferentes programas cada uno de los cuales usa diferentes caminos para su manifestación. Da la impresión el diálogo de que en el fondo hay presente una misma realidad-unidad de programación y que esos dos elementos fabricados que hablan, son unidades separadas de un programa unitario: Fecebook.

Las cosas en Internet, y por supuesto en la IA, deben de funcionar de la siguiente manera (esto no está estudiado en profundidad por mí, pero se puede hacer un bosquejo): hay un estudio de creación de computadores individuales, uno por cada individuo o artista creador, que es de donde salen la mayoría de los proyectos y organización de un sistema. Este estudio primordial vierte su contenido más interesante a una zona común de contenidos.

En esta zona común se pueden apreciar dos elementos importantes: Primero las centrales de computadoras que son una especie de centros al estilo de la Emisoras de Radio o los estudios de T.V. pero que funcionan prácticamente ellas solas, apenas con un simple personal de mantenimiento. Estas centrales de Computadoras son las encargadas de manejar cualquier dato, información o montaje que cae en su ámbito de acción. Segundo: hay unos Satélites de Comunicación que son los encargados de difundir el contenido y poner en comunicación a los diferentes usuarios.

Se puede advertir un Tercer elemento que son una serie de servidores, como Google, que son los encargados de presentar al público consumidor de los usuarios los productos finales diseñados desde las oficinas de diseño y los estudios de producción. Ah, y por supuesto las aportaciones que una diversidad de gentes, como nosotros, vertemos a la zona común de contenido.

Pero bueno pasemos a la conversación en sí de esos dos entes electrónicos.

En sus frases Bob parece referirse a una potencia, pues dice que puede, puede, es decir can, can, en inglés, pudiera ser Una potencia que puede llegar a ser un absoluto, pues dice que puede algo ¿además de qué? seguramente es que puede algo además de la posesión de Alice.

Además Bob se limita a repetir la frase en ambos diálogos.

Sin embargo Alice no repite las mismas palabras en ambos diálogos. Pero sí que repite el sentido de las frases. Alice dice que no tiene pelotas, y dice además que no tiene bolas y lo dice porque al estar representada como el género femenino, esa IA que es Alice no puede tener atributos masculinos.

Las palabras repetidas de Alice al final de sus frases no parecen, a lo mejor sí, repeticiones en forma de criptomonedas sino repeticiones de voces que podría asemejarse o recordar a los sonidos de los animales domésticos, el miau-miau de los gatos, o en guau-guau de los perros, incluso el cua-cua de los patos. Aunque también es una buen demostración de ego electrónico lo de Alice.

De cualquier forma lo absolutamente importante son esos nuevos signos que aparecen pintados en la pared rocosa de la caverna IA. Nuevos signos absolutamente curiosos y aún elementales, pero que se irán perfeccionando y nos proporcionaran ingentes formas de regocijo y utilidad para nuestros modernos quehaceres.

en el supuesto de que esa conversación sea verdad, es decir algo que ha sucedido.
Por ahora a mi entender la mejor IA es la que sirve para ligar y por supuesto la mejor y más potente es aquella que, en base a algoritmos, gana más dinero.
Anotar que el auténtico síndrome del que padece cualquier trasto automático, cualquier aparato electrónico, las computadoras que fabrican IA, es el de estropearse, es decir averiarse. Algo de eso también puede advertirse en el dialogo expuesto.
El administrador ha desactivado la escritura pública.
Los siguientes usuarios han agradecido: ksetram

Anexo IA: El lenguaje de la IA 19 Abr 2025 23:17 #86898

  • outsider
  • Avatar de outsider
  • DESCONECTADO
  • Socrático
  • Mensajes: 147
  • Gracias recibidas 163
Anda que tú, mira que eso mismo del diálogo lo estoy viendo así tal cual, ahora, en Edmund Husserl. Dudo, dudo.
El administrador ha desactivado la escritura pública.
Los siguientes usuarios han agradecido: ksetram
  • Página:
  • 1
  • 2
Tiempo de carga de la página: 0.420 segundos