Tecnología

Google se fija en el desaprendizaje de las máquinas para abordar los problemas de privacidad y seguridad de la IA

Publicado

Hace 1 año

julio 2, 2023

Google ha lanzado un reto para trabajar en el desaprendizaje de las máquinas, un enfoque que permitiría a una inteligencia artificial (IA) olvidar determinados conjunto de datos utilizados para su entrenamiento con el objetivo de mantener la privacidad o los derechos de los usuarios.

La extensión del uso de los modelos de inteligencia artificial requiere pensar también en los potenciales riesgos, como la propagación o amplificación de determinados sesgos o los peligros que plantean para la privacidad y seguridad de las personas.

En sus principios, Google afirma que trabajan por evitar el impacto injusto de los algoritmos en la gente y los resultados no intencionados que puedan crear un riesgo de daño, con el desarrollo de una IA responsable.

Los datos con los que se entrenan los modelos de IA tienen un impacto en su posterior desempeño, y por ello desde la compañía creen habría que una forma de mitigar los riesgos pasa por borrar los datos de entrenamiento, pero no solo de donde están almacenados, sino también borrar su influencia en la IA.

Pero “borrar por completo la influencia de los datos cuya eliminación se solicita es un desafío”, entre otras cosas porque puede perjudicar a la precisión y eficiencia que el modelo ha adquirido gracias a esos datos.

Por ello Google ha anunciado un reto con el que intentan abordar el denominado desaparendizaje de las máquinas (‘machine unlearning’), un subcampo emergente del aprendizaje automático que pretende “eliminar la influencia de un subconjunto específico de ejemplos de entrenamiento, el ‘conjunto de olvidos’, de un modelo entrenado”, como indica en su blog oficial. Este reto se realizará en Kaggle ente mediados de julio y mediados de septiembre.

Las aplicaciones de este enfoque van más allá de los derechos de las personas, ya que también puede resultar útil en el caso de los modelos entrenados con información errónea o desactualizada o para eliminar datos dañinos, manipulados o atípicos.

“El desaprendizaje automático es una herramienta poderosa que tiene el potencial de abordar varios problemas abiertos en el aprendizaje automático. A medida que continúa la investigación en esta área, esperamos ver nuevos métodos que sean más eficientes, efectivos y responsables”, concluyen.

Tecnología

OpenAI lanza GPT-4o mini, un modelo más ligero y económico

Publicado

Hace 4 meses

julio 18, 2024

Gustavo Salas

OpenAI ha lanzado una versión más ligera y económica de su modelo GPT-4o destinada a los desarrolladores que tendrá soporte para entradas y salidas de archivos de diferentes formatos.

La oferta de modelos de lenguaje de OpenAi ha crecido este jueves con GPT-4o mini, un modelo ideado para hacer tareas pequeñas y dirigido a desarrolladores que no pueden permitirse recurrir a modelos más caros.

Con GPT-4o mini, la firma se introduce en el mercado de los modelos ligeros y económicos, para facilitar el acceso a esta tecnología a más personas, como ha explicado a The Verge.

Este modelo sustituye a GPT-3.5 Turbo en los planes de suscripción Gratuito, Plus y Team, y llegará al de empresa en los próximos días. GPT-3.5, por su parte, pasará a estar disponible para los desarrolladores a través de la API.

La compañía también ha indicado que GPT-4o mini admite texto y visión y próximamente tendrá soporte para entradas y salidas de archivos de diferentes formatos, también de audio y vídeo.

Tecnología

Google anuncia limpieza de apps en Play Store: retirará las que no cumplan unos mínimos de funcionalidad y contenido

Publicado

Hace 4 meses

julio 18, 2024

Gustavo Salas

Google realizará a finales de agosto una limpieza de aplicaciones en Play Store para eliminar todas aquellas que no cumplan con sus requisitos mínimos de funcionalidad, contenido y experiencia de usuario.

La compañía tecnológica ha actualizado su política de funcionalidad mínima para dejar de permitir aplicaciones que no tengan contenido suficiente o que muestren un comportamiento inestable, que impida su uso en el ‘smartphone’.

El objetivo es asegurarse de que los usuarios acceden a un catálogo de aplicaciones que “ofrece una experiencia de usuario estable, interactiva y atractiva”, y por ello, a partir del 31 de agosto, la compañía tecnológica retirará las que no pasen la revisión.

En concreto, se centrará en dos tipos de aplicaciones: aquellas que tengan una funcionalidad y contenidos limitados, y las que muestren una funcionalidad rota, como detalla en su página de Soporte.

Por las primeras entiende que son aquellas que no tienen una función específica, poco contenido o que han sido diseñadas para no hacer nada. E incluye en esta categoría aplicaciones de solo texto, de archivos PDF o con un solo fondo de pantalla.

Por su parte, las aplicaciones con funcionalidad rota son aquellas que se congelan, fuerzan el cierre o directamente muestran un comportamiento anómalo. Como ejemplos, Google refiere las aplicaciones que no se instalan, o que una vez instaladas no cargan o no responden.

Tecnología

Files de Google permitirá comprimir carpetas y archivos

Publicado

Hace 4 meses

julio 18, 2024

Gustavo Salas

La aplicación de Archivos (Files) de Google tendrá nuevas funciones que permitirá gestionar las distintas carpetas con la posibilidad de comprimilarlas y de agruparlas en colecciones.

Una próxima actualización de la ‘app’ Files de Google permitirá a los usuarios fijar cualquier carpeta a una de las colecciones disponibles, Favoritos y Carpeta segura.

Este cambio que llegará acompañado de una reordenación de las distintas pestañas, ya que Colecciones pasará a estar encima de Categorías.

Esta novedad está ya presente en la beta de la ‘app’ Files (v1.4237.652465286.1), como ha comprobado el analista Assemble Debug y recogido el portal especializado Android Authority.

La aplicación también incorporar una función para comprimir carpetas o archivos, con la que se podrán crear archivos Zip sin salir de ella. Por el momento, solo permite la extracción de los archivos.