Connect with us
Weather Data Source: pronóstico del tiempo

Tecnología

Microsoft Azure anuncia un sistema de seguridad que identifica alucinaciones en los resultado de los LLM

Publicado

el

Microsoft ha anunciado nuevas funcionalidades enfocadas a la seguridad para los usuarios de la plataforma Azure, entre las que se encuentra un sistema que identifica las alucinaciones basadas en texto resultado de la Inteligencia Artificial (IA) generativa.

La directora de producto de IA responsable de Microsoft, Sarah Bird, ha confirmado a The Verge que su equipo ha diseñado características basadas en modelos de lenguaje grande (LLM, por sus siglas en inglés) que serán “fáciles de usar” para sus clientes.

Entre estas herramientas, que ya están disponibles para algunos usuarios de Azure AI Studio para desarrolladores de aplicaciones de IA generativa, se encuentra Prompt Shields, que sirve para detectar y bloquear ataques de inyección rápida y que ahora está disponible en versión preliminar en Azure AI Content Safety.

Con esta actualización también ha introducido un sistema de evaluaciones de seguridad para analizar el nivel de vulnerabilidad de una aplicación a ataques de ‘jailbreak’, también disponible solo en vista previa.

Por otra parte, ha anunciado un formato que filtra las alucinaciones, esto es, los datos que ofrece un modelo impulsado por IA que, a pesar de que están escritos de manera coherente, incluyen información correcta, sesgada o errónea.

Microsoft cree que “identificar las alucinaciones es crucial para mejorar la calidad y la confiabilidad de los sistemas de IA generativa”, tal y como ha señalado en este comunicado.

De ahí que haya desarrollado una característica de ‘conexión a tierra’ diseñada para identificar alucinaciones basadas en texto para aplicaciones que utilizan documentos, como las que hacen resúmenes o funcionan como ‘copilotos’ de preguntas y respuestas.

Microsoft ha matizado que esta solución se ha creado desde cero para detectar con precisión afirmaciones infundadas, para lo que ha construido un modelo de lenguaje personalizado ajustado a una tarea de procesamiento de lenguaje natural llamada Inferencia de Lenguaje Natural (NLI, por sus siglas en inglés). Esta evalúa las afirmaciones “como implicadas, refutadas o neutrales” con respecto a un documento fuente.

La firma ha señalado que el modelo de detección de alucinaciones de conexión a tierra mejorará “continuamente” a medida que siga ampliando los límites de la innovación en IA responsable.

Tecnología

OpenAI lanza GPT-4o mini, un modelo más ligero y económico

Publicado

el

OpenAI ha lanzado una versión más ligera y económica de su modelo GPT-4o destinada a los desarrolladores que tendrá soporte para entradas y salidas de archivos de diferentes formatos.

La oferta de modelos de lenguaje de OpenAi ha crecido este jueves con GPT-4o mini, un modelo ideado para hacer tareas pequeñas y dirigido a desarrolladores que no pueden permitirse recurrir a modelos más caros.

Con GPT-4o mini, la firma se introduce en el mercado de los modelos ligeros y económicos, para facilitar el acceso a esta tecnología a más personas, como ha explicado a The Verge.

Este modelo sustituye a GPT-3.5 Turbo en los planes de suscripción Gratuito, Plus y Team, y llegará al de empresa en los próximos días. GPT-3.5, por su parte, pasará a estar disponible para los desarrolladores a través de la API.

La compañía también ha indicado que GPT-4o mini admite texto y visión y próximamente tendrá soporte para entradas y salidas de archivos de diferentes formatos, también de audio y vídeo.

Continue Reading

Tecnología

Google anuncia limpieza de apps en Play Store: retirará las que no cumplan unos mínimos de funcionalidad y contenido

Publicado

el

Google realizará a finales de agosto una limpieza de aplicaciones en Play Store para eliminar todas aquellas que no cumplan con sus requisitos mínimos de funcionalidad, contenido y experiencia de usuario.

La compañía tecnológica ha actualizado su política de funcionalidad mínima para dejar de permitir aplicaciones que no tengan contenido suficiente o que muestren un comportamiento inestable, que impida su uso en el ‘smartphone’.

El objetivo es asegurarse de que los usuarios acceden a un catálogo de aplicaciones que “ofrece una experiencia de usuario estable, interactiva y atractiva”, y por ello, a partir del 31 de agosto, la compañía tecnológica retirará las que no pasen la revisión.

En concreto, se centrará en dos tipos de aplicaciones: aquellas que tengan una funcionalidad y contenidos limitados, y las que muestren una funcionalidad rota, como detalla en su página de Soporte.

Por las primeras entiende que son aquellas que no tienen una función específica, poco contenido o que han sido diseñadas para no hacer nada. E incluye en esta categoría aplicaciones de solo texto, de archivos PDF o con un solo fondo de pantalla.

Por su parte, las aplicaciones con funcionalidad rota son aquellas que se congelan, fuerzan el cierre o directamente muestran un comportamiento anómalo. Como ejemplos, Google refiere las aplicaciones que no se instalan, o que una vez instaladas no cargan o no responden.

Continue Reading

Tecnología

Files de Google permitirá comprimir carpetas y archivos

Publicado

el

La aplicación de Archivos (Files) de Google tendrá nuevas funciones que permitirá gestionar las distintas carpetas con la posibilidad de comprimilarlas y de agruparlas en colecciones.

Una próxima actualización de la ‘app’ Files de Google permitirá a los usuarios fijar cualquier carpeta a una de las colecciones disponibles, Favoritos y Carpeta segura.

Este cambio que llegará acompañado de una reordenación de las distintas pestañas, ya que Colecciones pasará a estar encima de Categorías.

Esta novedad está ya presente en la beta de la ‘app’ Files (v1.4237.652465286.1), como ha comprobado el analista Assemble Debug y recogido el portal especializado Android Authority.

La aplicación también incorporar una función para comprimir carpetas o archivos, con la que se podrán crear archivos Zip sin salir de ella. Por el momento, solo permite la extracción de los archivos.

Continue Reading

Trending