Tecnología
Microsoft Azure anuncia un sistema de seguridad que identifica alucinaciones en los resultado de los LLM
Published
2 meses agoon
Microsoft ha anunciado nuevas funcionalidades enfocadas a la seguridad para los usuarios de la plataforma Azure, entre las que se encuentra un sistema que identifica las alucinaciones basadas en texto resultado de la Inteligencia Artificial (IA) generativa.
La directora de producto de IA responsable de Microsoft, Sarah Bird, ha confirmado a The Verge que su equipo ha diseñado características basadas en modelos de lenguaje grande (LLM, por sus siglas en inglés) que serán “fáciles de usar” para sus clientes.
Entre estas herramientas, que ya están disponibles para algunos usuarios de Azure AI Studio para desarrolladores de aplicaciones de IA generativa, se encuentra Prompt Shields, que sirve para detectar y bloquear ataques de inyección rápida y que ahora está disponible en versión preliminar en Azure AI Content Safety.
Con esta actualización también ha introducido un sistema de evaluaciones de seguridad para analizar el nivel de vulnerabilidad de una aplicación a ataques de ‘jailbreak’, también disponible solo en vista previa.
Por otra parte, ha anunciado un formato que filtra las alucinaciones, esto es, los datos que ofrece un modelo impulsado por IA que, a pesar de que están escritos de manera coherente, incluyen información correcta, sesgada o errónea.
Microsoft cree que “identificar las alucinaciones es crucial para mejorar la calidad y la confiabilidad de los sistemas de IA generativa”, tal y como ha señalado en este comunicado.
De ahí que haya desarrollado una característica de ‘conexión a tierra’ diseñada para identificar alucinaciones basadas en texto para aplicaciones que utilizan documentos, como las que hacen resúmenes o funcionan como ‘copilotos’ de preguntas y respuestas.
Microsoft ha matizado que esta solución se ha creado desde cero para detectar con precisión afirmaciones infundadas, para lo que ha construido un modelo de lenguaje personalizado ajustado a una tarea de procesamiento de lenguaje natural llamada Inferencia de Lenguaje Natural (NLI, por sus siglas en inglés). Esta evalúa las afirmaciones “como implicadas, refutadas o neutrales” con respecto a un documento fuente.
La firma ha señalado que el modelo de detección de alucinaciones de conexión a tierra mejorará “continuamente” a medida que siga ampliando los límites de la innovación en IA responsable.
Comparte esto:
- Haz clic para compartir en WhatsApp (Se abre en una ventana nueva)
- Haz clic para compartir en Facebook (Se abre en una ventana nueva)
- Haz clic para compartir en Twitter (Se abre en una ventana nueva)
- Haz clic para compartir en LinkedIn (Se abre en una ventana nueva)
- Haz clic para compartir en Telegram (Se abre en una ventana nueva)
Relacionado
You may like
-
Rockstar Games lanzará Grand Theft Auto VI en otoño de 2025
-
Google incorpora nuevas funciones de accesibilidad y eficiencia con Android 14 para TV
-
El reproductor multimedia Winamp abrirá su código fuente el 24 de septiembre
-
Dinero por un ‘Me Gusta’ en YouTube: la estafa de empleo que acecha en WhatsApp
-
WhatsApp agrega videollamadas con hasta 32 usuarios y mejora sincronización de ‘stickers’, en su versión para Mac
-
LG descontinúa su televisor enrollable de 65 pulgadas Signature OLED R
Tecnología
Google incorpora nuevas funciones de accesibilidad y eficiencia con Android 14 para TV
Published
3 horas agoon
mayo 18, 2024Google ha compartido las novedades de su sistema operativo para televisor inteligente con Android 14, lo que incluye nuevas funciones de accesibilidad, el modo de imagen en imagen y nuevos modos de energía.
Las novedades que Android 14 introduce en Google TV y Android TVOS son pocas, pero responder a una tendencia creciente de adopción de esta plataforma, que el año pasado alcanzó los 220 millones de usuarios activos mensuales; con el objetivo de mejorar la experiencia.
Con la actual iteración de Android, se incorporan novedades que buscan mejorar el rendimiento y la eficiencia energética, con tres nuevos modos para ahorrar en el modo ‘standby’. También funciones de accesibilidad, como corrección de color, opciones de texto mejoradas y navegación mejorada.
Algunos modelos de televisor con Android TV son ahora compatibles con la función imagen en imagen, que superpone una pantalla pequeña sobre el contenido principal a pantalla completa, como ha informado en el blog de desarrolladores de Android.
Los desarrolladores también tiene acceso a Compose para TV en beta para personalizar la interfaz con distintas formas de presentar la información, como en carrusel o en chip.
Comparte esto:
- Haz clic para compartir en WhatsApp (Se abre en una ventana nueva)
- Haz clic para compartir en Facebook (Se abre en una ventana nueva)
- Haz clic para compartir en Twitter (Se abre en una ventana nueva)
- Haz clic para compartir en LinkedIn (Se abre en una ventana nueva)
- Haz clic para compartir en Telegram (Se abre en una ventana nueva)
Relacionado
Tecnología
El reproductor multimedia Winamp abrirá su código fuente el 24 de septiembre
Published
13 horas agoon
mayo 18, 2024El reproductor de multimedia Winamp ha anunciado que abrirá su código fuente el 24 de septiembre con el objetivo de permitir el desarrollo colaborativo para “ayudar a que este software icónico evolucione” en su versión para Windows.
Winamp es un ‘software’ gratuito de reproducción multimedia, inicialmente diseñado para Windows, cuyo uso fue muy común en los 90. En 2010, la compañía lanzó una aplicación del para ‘smartphones’ Android y un año después llegó a iOS para, finalmente, abrir una una web en el año 2013, poco antes de que empezara su declive. Con todo ello, el reproductor lanzó en abril de 2023 una nueva versión web para dispositivos móviles y de escritorio.
Ahora, Winamp ha anunciado que, el 24 de septiembre de este año pondrá a disposición de los desarrolladores a nivel global su código, para que “toda la comunidad participe en su desarrollo”.
Tal y como ha detallado la compañía en un comunicado en su web, la apertura de su código es “una invitación a la colaboración global”, con la que pretende facilitar que los desarrolladores contribuyan aportando su experiencia e ideas y, con ello, ayudar a que el ‘software’ de reproducción multimedia “evolucione”.
Según se ha pronunciado el CEO de Winamp, Alexandre Saboundjian, la compañía pretende centrar sus recursos en nuevos reproductores para móviles y otras plataformas. Sin embargo, también ha subrayado que no quieren “olvidar a los decenas de millones de usuarios” que utilizan el ‘software’ de Winamp en Windows.
Así, la apertura de su código es un paso más en la historia de Winamp, que ofrecerá la posibilidad de su desarrollo colaborativo y recopilará la experiencia y creatividad “de miles de desarrolladores”.
Aún así, la compañía ha puntualizado que Winamp continuará siendo el propietario de ‘software’ y, por tanto, seguirá estando a cargo de las decisiones sobre innovaciones que se introduzcan en la versión oficial, ha apostillado Saboundjian.
Comparte esto:
- Haz clic para compartir en WhatsApp (Se abre en una ventana nueva)
- Haz clic para compartir en Facebook (Se abre en una ventana nueva)
- Haz clic para compartir en Twitter (Se abre en una ventana nueva)
- Haz clic para compartir en LinkedIn (Se abre en una ventana nueva)
- Haz clic para compartir en Telegram (Se abre en una ventana nueva)
Relacionado
Tecnología
Dinero por un ‘Me Gusta’ en YouTube: la estafa de empleo que acecha en WhatsApp
Published
13 horas agoon
mayo 18, 2024WhatsApp es un canal habitual para la distribución de estafas, como la última que ha empezado a popularizarse, una modalidad de la supuesta oferta de empleo que paga a cambio de ver vídeos, en esta ocasión de YouTube.
Un mensaje de un número desconocido inicia en WhatsApp el contacto entre los cibercriminales y las potenciales víctimas, a quienes una empresa sin nombre les pagará a cambio de aumentar la visibilidad de los creadores de contenido en YouTube.
Para ello, se les insta a marcar un ‘Me Gusta’ en los vídeos y enviar una captura de pantalla a modo de prueba para recibir a cambio 3 euros por cada una, pudiendo conseguir entre 40 y 500 euros al día.
Las conversaciones las mantienen ‘bots’ ya que, como explican desde la firma de seguridad ESET, “independientemente de lo que se les conteste, estos enviarán la información de estas supuestas ofertas de trabajo”.
Los investigadores de esta firma han identificado que varios de los números están registrados en Indonesia, y además de iniciar la comunicación por WhatsApp, también han detectado que los mensajes se envían a servicios de comunicación enriquecida (RCS), esto es, las aplicaciones de SMS que añaden formatos más propios de plataformas como WhatsApp, Messenger o Telegram.
En ESET creen que “estaríamos ante una intensificación de las campañas que utilizan este método para intentar estafarnos”. Y advierten de que aunque al principio sí suelen abonar algo del dinero prometido, en una segunda fase lo habitual se que redirijan a la víctima a un portal en el que conseguir sus datos bancarios.
Existe otra modalidad de esta estafa que se ha actualizado para incorporar una llamada con la que los ciberdelincuentes inician el contacto para seguir posteriormente en un chat y prometer ingresos diarios a cambio de ver unos vídeos, que en lugar de YouTube pueden ser de TikTok.
Comparte esto:
- Haz clic para compartir en WhatsApp (Se abre en una ventana nueva)
- Haz clic para compartir en Facebook (Se abre en una ventana nueva)
- Haz clic para compartir en Twitter (Se abre en una ventana nueva)
- Haz clic para compartir en LinkedIn (Se abre en una ventana nueva)
- Haz clic para compartir en Telegram (Se abre en una ventana nueva)
Relacionado
Trending
-
Tecnología1 año ago
Xiaomi lanza en España el Redmi Note 12 Pro + 5G desde 499,99 euros con cámara de 200MP y carga rápida de 120W
-
Bolivia4 años ago
ROSITA POCHI, JERARQUÍA Y RITUALIDAD GUARANÍ
-
Tecnología3 años ago
Huawei reafirma su compromiso con la innovación tecnológica
-
Tecnología10 meses ago
Samsung y Microsoft crean una solución de autenticación en móviles para empresas basada en ‘hardware’
-
Tecnología1 año ago
Microsoft acusa a Sony de dar información falsa a las autoridades de regulación europea sobre la paridad de Call of Duty
-
Internacional2 años ago
Un turista logró captar a un curioso primate en el Parque Nacional Kruger de Sudáfrica
-
Música1 año ago
YouTube Music agrega un temporizador de suspensión para configurar cuándo dejar de reproducir contenido automáticamente
-
Empresa1 año ago
INTI confía en las mujeres: representan un 50% de su liderazgo y son pilar de las acciones de RSE
You must be logged in to post a comment Login