Connect with us
Weather Data Source: pronóstico del tiempo

Tecnología

Google, OpenAI y Nvidia se unen para velar por un ecosistema de IA seguro por diseño y orientar a sus desarrolladores

Publicado

el

Grandes tecnológicas como Google, Microsoft, OpenAI, Nvidia o Intel se han unido para crear la Coalición para una Inteligencia Artificial Segura (CoSAI), una iniciativa de código abierto creada para brindar a los profesionales y desarrolladores de esta tecnología la orientación y las herramientas que necesitan para crear sistemas seguros por diseño.

Este grupo de líderes de la industria, académicos y otros expertos fomentará un ecosistema colaborativo para compartir metodologías de trabajo y marcos estandariizados para «abordar el panorama fragmentado de la seguridad de la IA», tal y como han indicado en una nota de prensa.

CoSAI, que es una iniciativa para mejorar la confianza y la seguridad en el uso y la implementación de esta tecnología, está fundado por Google, IBM, Intel, Microsoft, Nvidia y Paypal. Además, cuenta con otros patrocinadores fundadores como Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI y Wiz.

La Coalición ha explicado que su alcance incluye la construcción, integración, implementación y operación segura de sistemas de IA, «centrándose en mitigar riesgos como el robo de modelos, el envenenamiento de los datos, la inyección rápida, el abuso a escala y los ataques de inferencia».

Asimismo, esta asociación de grandes tecnológicas tiene como objetivo desarrollar medidas de seguridad integrales que aborden los riesgos clásicos y únicos de los sistemas de IA para alcanzar prácticas estandarizadas que mejoren la seguridad de la IA.

Por el momento, CoSAI se ha planteado formar tres grupos de trabajo, auqnue tiene previsto sumar más con el tiempo, tal y como ha confirmado en esta publicación. El primero de ellos buscará dar más seguridad a la cadena de suministro de ‘software’ para sistemas de IA, con la mejora del seguimiento de su composición y procedencia, a fin de proteger las aplicaciones de IA.

Otro de los grupos de trabajo formados se encargará de preparar a los defensores para un panorama «cambiante» de ciberseguridad, analizando las inversiones y los desafíos de integración en IA y sistemas clásicos. Por último, un tercer equipo desarrollará mejores prácticas y marcos de evaluación de riesgos para la seguridad de la IA.

Tecnología

OpenAI enviará notificaciones cuando los usuarios mantengan largas sesiones abiertas en ChatGPT

Publicado

el

OpenAI enviará recordatorios a los usuarios de ChatGPT cuando mantengan sesiones abiertas de manera prolongada con el fin de que puedan establecer relaciones más saludables con el ‘chatbot’, y ha anunciado que está trabajando en mejorar sus modelos para que sean capaces de detectar mejor las señales de angustia mental o emocional.

La compañía dirigida por Sam Altman ha declarado que la inteligencia artificial (IA) puede ser «más receptiva y personal», por lo que ha anunciado que actualizará ChatGPT para ayudar a los usuarios cuando tengan dificultades o tengan que resolver desafíos personales.

Así, OpenAI ha anunciado que, a partir de este lunes, enviarán recordatorios a los usuarios cuando mantengan sesiones abiertas durante un largo tiempo en ChatGPT con el fin de que descansen, que se notificarán de manera que resulten «naturales y útiles».

Asimismo, la compañía estadounidense tiene el objetivo de que ChatGPT pueda responder «adecuadamente y dirigir a las personas a recursos basados en la evidencia cuando sea necesario», por ejemplo, cuando los modelos detecten señales de angustia mental o emocional, por lo que está trabajando «en estrecha colaboración» con expertos para mejorar la forma en que el ‘chatbot’ responde en este tipo de situaciones.

De este modo, OpenAI está trabajando con más de 90 médicos en más de 30 países para evaluar conversaciones complejas, así como que está colaborando con investigadores y profesionales clínicos de la interacción persona-computadora (HCI), para que aporten su opinión acerca de los métodos con los que la empresa ha identificado comportamientos preocupantes.

La compañía quiere perfeccionar sus métodos de evaluación, y también ha convocado a un grupo asesor de expertos en salud mental, desarrollo juvenil y HCI para que estos avances vayan acompañados de las últimas investigaciones y las mejores prácticas.

Además, la empresa liderada por Sam Altman ha asegurado que «pronto» implementará un nuevo comportamiento centrado en ayudar al usuario a tomar decisiones personales, de modo que no se limitará a dar respuestas, sino que ayudará a analizar la cuestión, haciendo preguntas y sopesando ventajas e inconvenientes de cada decisión.

«Si un ser querido acudiera a ChatGPT en busca de ayuda, ¿nos sentiríamos tranquilos? Conseguir un sí rotundo es nuestra labor», ha concluido OpenAI.


Continue Reading

Tecnología

Samsung actualiza sus televisores de 2025 con el nuevo Bixby potenciado con IA generativa

Publicado

el

Samsung ha actualizado el asistente de voz Bixby con inteligencia artificial generativa en la gama de televisores de 2025, para conseguir que la búsqueda de información sea más natural, intuitiva y fluida.

Bixby se ha vuelto «más inteligente» en los televisores de Samsung, donde los usuarios pueden activarlo con la voz o pulsando el botón del micrófono para iniciar una conversación, en cualquier momento, incluso con el televisor apagado, sin necesidad de comandos, sin menús y sin escribir.

El nuevo Bixby con inteligencia artificial generativa entiende el contexto y las preguntas, lo que permite interacciones más fluidas que parecen una conversación real, como apunta la compañía tecnológica en una nota de prensa.

Con esta actualización, Samsung destaca que los usuarios pueden sacarle más partido a su televisor sin interrumpir lo que estén viendo.

Bixby también se ha integrado en ‘Click to Search’ para descubrir y explorar contenido de entretenimiento, e incluso amplía esta herramienta para preguntar sobre cuestiones cotidianas, como recetas de cocina, que el asistente de voz contestará con respuestas contextuales utilizando información externa para simplificar la búsqueda.

La nueva versión de Bixby estará disponible en los televisores Samsung de 2025, incluidos los modelos Neo QLED, OLED, The Frame y QLED, a lo largo del mes de agosto, mes en el que está previsto que llegue también a España.

Los televisores con el nuevo Bixby, además, permitirán gestionar los dispositivos domésticos con Samsung SmartThings activado, y lo harán en un entorno protegido de la mano de la solución Samsung Knox.

Continue Reading

Tecnología

Instagram cambia las reglas para el vídeo en directo: cuenta pública y 1000 seguidores

Publicado

el

Instagram ha cambiado los requisitos que permiten a los usuarios realizar retransmisiones en directo, que ahora exige tener una cuenta con un mínimo de mil seguidores.

Las retransmisiones en directo en Instagram han estado al alcance de cualquier usuario de la plataforma hasta ahora, ya que la compañía ha decidido limitar su uso con nuevos requisitos que penalizan a los creadores más pequeños que buscan llega a más audiencia.

En concreto, Instagram exigirá a partir de ahora a los usuarios tener una cuenta pública con al menos mil seguidores para poder retransmitir en directo, como ha confirmado a TechCrunch y ya notifica a aquellos usuarios no elegibles que intentan iniciar una retransmisión.

Este cambio lo justifican como una forma de mejorar la experiencia general de consumo, aunque con el nuevo límite los responsables de Instagram equiparán la función de vídeo en directo con TikTok, que también exige mil seguidores.

Continue Reading

Trending