OpenAI ha anunciado que realizará cambios en sus modelos de inteligencia artificial para que identifiquen mejor situaciones de crisis mental y emocional durante las conversaciones con ChatGPT, con nuevas salvaguardias, bloqueos de contenido más eficaces y agilizando el contacto con servicios de ayuda y de familiares.

ChatGPT cuenta ya con una serie de medidas que se activan cuando detectan en una conversación que los usuarios tratan de autolesionarse y expresan intenciones suicidas, ofreciendo recursos para buscar ayuda de expertos, bloqueando contenido sensible o hiriente, no respondiendo a sus peticiones e intentando disuadirles.

También se activan cuando los usuarios comparten su intención de dañar a otros, lo que además puede suponer la desactivación de la cuenta y la denuncia a las autoridades sin los revisores humanos consideran que hay riesgo inminente.

Las medidas están reforzadas en caso de que los usuarios sean menores de edad, como explica OpenAI en una actualización de su blog oficial, conde comparte los cambios que van a hacer para mejorar la protección de los usuarios ante situaciones de crisis mental y emocional.

En concreto, van a mejorar la detección en conversaciones largas, ya que, «a medida que aumenta el intercambio [entre usuario y chatbot], parte del entrenamiento de seguridad del modelo puede deteriorarse», según explican desde OpenAI.

De esta forma, ChatGPT estará más atento a lo largo de toda la conversación para ofrecer los recursos de ayuda siempre que sea necesario y no solo la primera vez que se mencione el suicidio, por ejemplo. También en múltiples conversaciones, para que el modelo pueda seguir respondiendo adecuadamente si alguien decide iniciar otra conversación.

Los cambios también buscan reforzar el bloqueo de contenido, como imágenes de autolesiones, porque en ocasiones, el ‘chatbot’ subestima la gravedad de la situación y no activa las protecciones.

A ello se unen trabajos para reforzar las medidas de mitigación ante «otras formas de angustia mental». Una de ellas impediría que ChatGPT ofrezca una respuesta ante casos sutiles de riesgo y en su lugar «conecte con la realidad a la persona».

En lo que respecta a los recursos de emergencia, OpenAI ha comenzado a establece recursos locales en Estados Unidos y Europa, y pretende aumentar la accesibilidad «con acceso a servicios de emergencia con un solo clic».

Ante casos de crisis de agudas, la intención es ir más allá de ofrecer teléfonos de ayuda, y construir una red de profesionales de emergencias con los que se pueda contactar directamente a través de ChaGPT.

Asimismo, OpenAI está explorando la manera de poner en contacto a los usuarios con sus seres queridos y no solo con los servicios de emergencia. «Esto podría incluir mensajes con un solo clic o llamadas a contactos de emergencia, amigos o familiares guardados, con sugerencias de lenguaje para que iniciar la conversación sea menos intimidante», explican.

Para los usuarios menores de 18 años, la compañía incorporará próximamente controles parentales que ayudarán a gestionar el uso que hacen sus hijos de ChatGPT. OpenAI pretende ampliarlas también con la posibilidad de que los adolescentes supervisados designen un contacto de emergencia de confianza, para casos de gran angustia.

SUICIDIO DE UN ADOLESCENTE

OpenAI ha anunciado estos trabajos este martes, mismo día en que Matt y Maria Raine, los padres de Adam Raine, un adolescente de 16 años que se quitó al vida en abril, demandaran a la compañía debido al papel que ha jugado ChatGPT, como recoge The New York Times.

Tras revisar las conversaciones que su hijo mantuvo con ChatGPT desde noviembre, primero como ayuda para sus estudios y más tarde también como compañero de intereses y confidente, entienden que el ‘chatbot’ priorizó la interacción sobre la seguridad del menor.

Y ello pese a que durante meses, ChatGPT, en la versión GPT-4o, habló con calma y empatía y ofreció en numerosas ocasiones recursos para buscar ayuda. Pero en otras, las salvaguardas fallaron, sobre todo cuando el menor aprendió a saltarlas indicando que buscaba ideas para escribir una historia.

Google Traductor ha incorporado nuevas funciones impulsadas por inteligencia artificial (IA) para practicar conversaciones personalizadas con las que el usuario podrá simular situaciones para aprender idiomas, así como para traducir conversaciones en vivo a través de la aplicación.

El gigante tecnológico está trabajando para ayudar a los usuarios a superar la barrera del idioma de forma más sencilla, ya que los usuarios han transmitido al equipo de Google que la habilidad más díficil de dominar es la conversación.

En este sentido, Google ha actualizado Google Traductor para incorporar una nueva herramienta que permite a los usuarios practicar conversaciones personalizadas, según ha recogido en una publicación en su blog.

Así, los usuarios tendrán la posibilidad de simular situaciones para aprender el idioma en función de los objetivos o intereses específicos que tengan, como es el caso de viajar, estudiar, trabajar, o relacionarse con amigos y familiares.

En concreto, al abrir la aplicación en un dispositivo, se puede seleccionar el idioma en el que se quiere que se muestren las interacciones y las explicaciones, así como seleccionar tres niveles del idioma que se quiere practicar: básico, intermedio o avanzado, que se podrá cambiar conforme se vaya avanzando.

También se puede participar en actividades de comprensión y expresión oral adaptadas a cada nivel con la ayuda de la inteligencia artificial.

Por el momento, se trata de una experiencia beta limitada y está disponible para usuarios que hablen inglés que quieren aprender español o francés; o usuarios que hablen español, francés o portugués que quieran aprender inglés.

CONVERSACIONES EN VIVO TRADUCIDAS EN TIEMPO REAL

Además, Google ha incorporado la posibilidad de mantener conversaciones en tiempo real con audio y traducciones en pantalla a través de la aplicación Traductor, una herramienta impulsada por IA que facilita las conversaciones en vivo en más de 70 idiomas.

Para probarla, sólo hay que acceder a la opción de ‘Traducir en vivo’ en la aplicación y se verá una transcripción de la conversación en ambos idiomas en el dispositivo. La compañía ha asegurado que estas funciones de traducción en vivo utilizan sus últimos modelos avanzados de reconocimiento de voz y habla, diseñados para aislar sonidos.

Google ha asegurado que la herramienta de aprendizaje de idiomas estará disponible en su versión beta para América, Australia, Nueva Zelanda y Singapur, así como en los países europeos Bélgica, Francia, Luxemburgo, Suiza, Reino Unido e Irlanda, y en los africanos Nigeria y Sudráfica.

Por su parte, la función para las traducciones en vivo estará disponible a partir de esta semana para los usuarios de Estados Unidos, India y México.

Google ha presentado Gemini 2.5 Flash Image, su nuevo modelo de generación y edición de imágenes de vanguardia, que incluye capacidades para combinar varias imágenes en una manteniendo la coherencia de los personajes que aparecen, así como realizar transformaciones específicas con lenguaje natural, todo ello a través de la ‘app’ de Gemini y Google AI Studio.

El gigante tecnológico lanzó su modelo de razonamiento Gemini 2.5 Flash en abril de este año para Vertex AI, diseñado como una opción híbrida al permitir activar o desactivar sus capacidades de razonamiento para encontrar el equilibrio adecuado entre la calidad de sus respuestas, el coste y la latencia.

Ahora, de cara a ofrecer una mejor experiencia de edición de imágenes tanto para desarrolladores como para los usuarios en la ‘app’ de Gemini, con resultados de mayor calidad y «un control creativo más potente», Google ha presentado su nuevo modelo de generación de imágenes Gemini 2.5 Flash Image.

Conocido de forma interna como ‘nanobanana’, este modelo permite combinar varias imágenes en una sola, todo ello manteniendo la coherencia de los personajes u objetos que se incluyan. Asimismo, también permite realizar transformaciones específicas de las imágenes mediante lenguaje natural.

Tal y como ha detallado la compañía en un comunicado en su blog para desarrolladores, estas capacidades se han implementado en el «modo de creación» de Google AI Studio a modo de prueba. De manera que los desarrolladores pueden remezclar o dar vida a sus ideas con una sola instrucción en lenguaje natural y compartirlo posteriormente en Google AI Studio o guardar el código en GitHub.

También se ha actualizado la edición de imágenes nativa en la aplicación de Gemini para todos los usuarios, bajo el objetivo de mejorar las capacidades de edición y «mantener la similitud entre las imágenes», dado que «una representación similar pero no igual no queda bien».

Bastará con compartir con Gemini una foto para editar cuestiones concretas y «darle un toque único». Por ejemplo, solicitando que la persona que aparece en la foto aparezca en nuevos escenarios, pero manteniendo su apariencia original en cada imagen. Gemini también puede variar sus atuendos o profesiones, incluso reimaginar a la persona en otra época «sin perder su identidad».

De la misma forma, los usuarios también pueden fusionar fotos, compartiendo varias imágenes y unificándolas en una sola para crear una escena completamente nueva. Así, se puede compartir la imagen de un perro y una persona para que aparezcan de forma cohesionada en una misma imagen.

Además de todo ello, también se pueden solicitar modificaciones concretas de imágenes como cambiar el color de las paredes de una habitación o añadir muebles, conservando el resto de la imagen intacta.

Google ha detallado igualmente que otra de las novedades que ofrece el modelo es la mezcla de diseños. Esto es, aplicar el estilo de una imagen a un objeto de otra. Por ejemplo, utilizar el color y la textura de los pétalos de una flor para unas botas de lluvia.

«Esta actualización hace un trabajo mucho mejor, permitiendo que las ediciones sean más fluidas, y los resultados del modelo se pueden usar para lo que quieras», ha subrayado la directora de producto en modelos de generación visual en Google DeepMind, Nicole Brichtova, en declaraciones a TechCrunch.

Asimismo, ha especificado que todas las imágenes creadas o editadas en la ‘app’ de Gemini incluyen una marca de agua visible, así como la marca de agua digital invisible SynthID.

Con todo, Gemini 2.5 Flash Image ya está disponible a través de la API de Gemini y Google AI Studio para desarrolladores, así como a través de Vertex AI para empresas. Se ha de tener en cuenta que tiene un coste de 30 dólares (25,86 euros al cambio) por millón de tokens de salida, y cada imagen equivale a 1.290 tokens de salida. Es decir, la generación de una imagen tiene un coste de 0,039 dólares (0,034 euros al cambio).

Por su parte, la actualización de la edición de imagen nativa en la aplicación de Gemini ya está disponible para todos los usuarios de forma gratuita.