jueves, junio 13

ChatGPT: Distopía como marketing: por qué OpenAI cree que queremos enamorarnos de un robot | Tecnología

Este artículo forma parte del boletín tecnológico semanal que se envía todos los viernes. Si quieres suscribirte para recibirlo completo, con temas similares, pero más variados y más cortos, Puedes hacerlo en este enlace.

«Vaya, este vestido te queda genial», le dijo inesperadamente la nueva versión de ChatGPT a un empleado de OpenAI durante su presentación. El empleado, Barret Zoph, acababa de escribir «Me encanta ChatGPT» en una hoja de papel después de que la máquina le ayudara a resolver un problema. «Eres tan dulce», respondió ChatGPT.

Esta conversación duró apenas unos segundos en la presentación de apenas media hora de la versión ChatGPT-4o (la o significa “omni”) el lunes pasado. Sus novedades son sobre todo la eliminación de la latencia, lo que da más sensación de chat en vivo, y la posibilidad de «mirar», comprender y hablar sobre lo que ves. No deja de ser un modelo lingüístico como el que vemos en la versión web de ChatGPT. Pero ahora habla, se ríe de sus propios chistes, adopta una voz sarcástica y, por supuesto, parece estar coqueteando. En el clip de OpenAI en YouTube recortaron ese fragmento.

La gran referencia que tenemos de una IA coqueta es Su, con la voz de Scarlett Johansson. Volví a ver la película y es difícil creer que OpenAI se jacta de querer ese futuro para la humanidad. Sam Altman, director ejecutivo de OpenAI, tuiteó «su» durante la presentación. Otros investigadores de la empresa tuitearon en la misma línea: “Os enamoraréis todos” (por suerte no añadió “ella”), dijo uno, y luego añadió el tuit de un usuario que, junto a un vídeo, escribió: «¿La voz de ChatGPT es… sexy?»

Otro empleado más escribió: “Lo vi de nuevo Su el fin de semana pasado y tenía ganas de ver Infección en febrero de 2020″. COMO Suque es del 2013, Infección es una película de 2011 sobre una pandemia.

La película Su Es por tanto una especie de referencia para los creadores de ChatGPT-4o. O al menos un tema que discutieron internamente. Es difícil no hacerlo. Como recuerda el periodista especializado Brian Merchant en su del Boletín de noticias, las referencias distópicas a la ciencia ficción son un recurso común en Silicon Valley. La explicación más probable es el marketing. Es más fácil anunciar «Su» de un “modelo lingüístico conversacional nunca visto”.

Google presentó su Proyecto Astra el martes, que es el mismo que ChatGPT-4o pero con una voz y un tono más clínicos. Después de dejar su teléfono, la empleada de Google usó sus gafas para charlar con su modelo. Google es más cauteloso con el marketing, pero su fundador, Sergey Brin, en conversaciones aparentemente casuales con periodistas dijo que las gafas de Google habían llegado demasiado pronto. En la demostración de Google, la cámara miró por la ventana y dijo: «Yo diría que esto es King’s Cross». No están tan lejos de la visión de Terminator.

En su día, Elon Musk presumía de su nuevo vehículo, el Cybertruck, como el que conducirían ellos Cazarecompensas. O quizás el mejor ejemplo sea el metaverso, utilizado por Meta, de donde viene. Listo jugador uno. Distopías convertidas en referentes. Vale la pena resaltar cómo el marketing Olvida deliberadamente detalles de la película:

1. La película termina mal. Samantha, el robot con la voz de Scarlett Johansson, finalmente desaparece porque la empresa la cierra. Poco antes, el protagonista había descubierto que no era el único novio: «Estoy enamorado de 641 personas», le había dicho. Habló con más de 8.000 personas a la vez. Es un negocio y, como casi todo en el mundo digital, simplemente lo alquilamos.

Para tener sexo real, el robot envía a una mujer para que actúe como su cuerpo. La máquina niega que sea prostitución y el protagonista lo cree. Al final todo sale mal, pero su fuerza de convicción es inmejorable.

2. Humanizar esta tecnología presenta problemas reales. De aquí viene el gran problema de esta tecnología: una voz que suena humana, que ríe, que habla de lo que ve, nos convencerá de muchas cosas. A finales de abril, más de dos docenas de investigadores de Google publicaron un artículo científico titulado La ética de los asistentes avanzados de inteligencia artificial. Dijeron: “Los resultados empíricos muestran que cuando un asistente virtual digital utiliza una voz realista en lugar de sintética, las personas tienden a tener más confianza emocional y tener una mayor impresión de presencia social. Además, los asistentes que hablan más como humanos generan percepciones de inteligencia y competencia, lo que hace que las personas sean más propensas a asignarles más tareas».

Es mejor que OpenAI haga que su asistente parezca una persona real. Usémoslo más. Pero también le daremos más amor, y de eso no tenemos mucho.

3. Siempre es la voz de una mujer sensual. Uno de los memes que surgió de la presentación de OpenAI fue la disminución del valor de las «novias». Si un robot actúa como una novia divertida, amable y sensual, ¿por qué uno de verdad?

Es el mismo problema que tiene el protagonista de la historia. Aunque también consigue decepcionar a Samantha, su robot.

La voz femenina también es interesante. Una amiga de la protagonista también tiene novio virtual, pero su voz nunca sale. Y en el debate casi nunca se menciona que estos asistentes humanos se “comprometan”.

El artículo de los investigadores de Google dice esto sobre los estereotipos: “Cuando la voz simulada de un asistente virtual digital imita un tono femeninola gente asigna estereotipos de género incluso si no tiene sentido aplicar conceptos de género a una entidad que no los tiene”.

4. Todo es un plan para hacer dinero. Lógicamente, nada de esto existiría si OpenAI no estuviera involucrado en una carrera por dominar la industria de los agentes de IA y, pronto, la industria de los motores de búsqueda. OpenAI habrá juzgado que era más ventajoso incluirlo Su y su tono sensual para llamar la atención y hacer aparecer a Google como la empresa responsable.

Otro artículo de octubre de 2023 sobre la humanidad de estos sistemas desaconseja encarecidamente hacerlo: “Recomendamos que los esfuerzos futuros para desarrollar sistemas de diálogo presten especial atención a su diseño, desarrollo, publicación y descripción; y prestar atención a las numerosas señales lingüísticas que pueden llevar a los usuarios a humanizarlos”.

Sam Altman publicó una breve publicación alabando a ChatGpt-4o. Eso es lo que destacó, su realismo. “El nuevo modo de voz es la mejor interfaz que he usado jamás. «Parece inteligencia artificial de película». Por supuesto que así parece, con consecuencias difíciles de predecir.

5. El gran error de la película. La película contiene uno de esos maravillosos errores por falta de imaginación. La protagonista trabaja en una empresa que escribe cartas a mano. Su sitio web es Hermosas cartas escritas a mano, que hoy es gratis. Esta habilidad es exactamente algo que ChatGPT ya tenía antes de que ella pudiera convertirse en su novia.

Es cierto que el mérito de quien escribe las cartas (además de copiar la letra) es conocer los detalles de los miembros de la pareja. Pero todavía es fácilmente reparable.

6. Es difícil creer que hablemos con nosotros mismos. Aunque ChatGPT-4o habla como un humano, me cuesta imaginar un vagón de metro entero susurrando por unos auriculares, como aparece en la película. O decenas de personas hablando solas en la calle.

Quizás sea una cosa generacional y los niños de 10 años acaben charlando con sus dispositivos (y los padres de hoy están obsesionados con las pantallas).

Altman dice que pronto se volverá natural: “Hablar con una computadora nunca me ha resultado natural, pero ahora sí lo es”. Pero no sabemos si Altman es sincero. Tu negocio también depende de nuestras emociones.

puedes seguir La tecnología de EL PAÍS En Facebook Y X o regístrate aquí para recibir el nuestro boletín semanal.

Regístrate para continuar leyendo

Leer sin límites

_