Copilot+ Recall parece una maniobra suicida
19 de jun. de 2024 - #Informática
Me he tomado mi tiempo para escribir sobre este tema para poder hacerlo con serenidad, pues mi primer contacto con el anuncio de Recall me hizo pensar que probablemente yo no había escuchado bien:
Recall toma “capturas de pantalla” de tu PC constantemente, y las convierte en una base de datos buscable de todo lo que hayas visto alguna vez.
→ Fuente: Satya Nadella, CEO de Microsoft.
Lo siguiente que pensé era que quizás este señor no se había expresado correctamente, y que debería haber algo más de información que yo me había perdido. En mi cabeza había unas luces de neón tamaño XXL donde se leía: RIESGO. Ni corta ni perezosa me que fui a la web oficial a por mas información:
“Recall no realiza moderación de contenidos. No ocultará información como contraseñas o números de cuentas financieras”.
→ Fuente: “Control over your Recall experience”.
Vale, hubo más gente que pensó en lo mismo que yo y fue a preguntar. Continué recavando información, porque lo lógico sería que hubiese una mitigación a tales riesgos. Os comparto mis notas sobre el funcionamiento de este sistema:
- Realiza capturas de pantalla cada 2 segundos: el sistema saca fotos del contenido de la pantalla, pero como Copilot es un LLM (Modelo de Lenguaje Grande), este no es el formato correcto para sacarles partido: el programa lo necesita texto. Por esa razón, se pasan las imágenes por un sistema de OCR (Reconocimiento Óptico de Caracteres, extraer el texto de las imágenes) y un algoritmo de Inteligencia Artificial que identifique el contenido para generar descripciones.
- Ejecución y almacenamiento local, encriptado en reposo: esto quiere decir que el algoritmo se ejecutará en tu ordenador local, sin enviar datos a los servidores de Microsoft. Lo de no compartir los datos suena bien, pero la ejecución de algorítmica de LLM implica un consumo de recursos alto, así que necesitarás un ordenador muy potente. El resultado de este proceso se guarda en un fichero en tu propio ordenador, que se codifica de forma segura cuando tu ordenador se apaga. Ojo a ese dato: sólo está codificado en reposo: cuando el ordenador está en funcionamiento, dicho fichero de base de datos SQLite, almacenado en
%APPDATA%/CoreAIPlatform
es perfectamente legible por cualquiera que acceda al ordenador encendido (ya sea física o remotamente), porque está en texto plano. - “Sólo el usuario puede acceder a los datos” (Falso): se ha demostrado que si tienes un segundo usuario en el ordenador, puedes acceder a los datos de Recall del primer usuario con facilidad, tanto a las imágenes originales que sigan en memoria como a la base de datos.
- El UAC se interpone: el UAC (Control de Acceso de Usuario, esa notificación tan molesta que te interrumpe cuando quieres instalar algo en un PC Windows desde el lanzamiento de Vista) no es una medida de seguridad seria: hay un montón de programas sin privilegios que se la pueden saltar.
- La navegación privada con Microsoft Edge no se guarda con Recall: aquí ya se ha retractado respecto al mensaje original, y dicen que en el futuro también respetarán el modo privado de Firefox y el modo incógnito de los navegadores basados en Chromium. Aún así, esto se sigue traduciendo como que leerá lo que haya en cualquier otro programa que abras, excepto en los navegadores de esa lista: un documento privado en un procesador de texto local, un software confidencial que se estés desarrollando, un programa gestión de contraseñas, una web del banco que usas con un navegador en modo de navegación normal, mensajes con sistema de autodestrucción tras un cierto tiempo en aplicaciones de mensajería privada… todo eso quedará guardado en Recall, perfectamente ordenado por aplicación, para siempre. Supongo que esperan que sólo usemos el navegador de Internet de forma privada y ningún programa más, ¿verdad? Pero atentos, que han tenido el detalle de no grabar aquello que venga con DRM (el vulgarmente llamado “sistema antipiratería” de las películas, porque con tus datos financieros no hay miramientos, pero con el contenido de Netflix si).
- Se puede desactivar… tras la instalación de Windows 11: viene activado por defecto, y recordemos que Windows 11 requiere una cuenta de Microsoft para activarlo, escribiendo una contraseña. Como te descuides, la has filtrado nada más empezar, ¡buen trabajo! Afirman que van a crear un menú para desactivarlo y activarlo “de forma segura, que requiere que emplees tus datos biométricos”. Perdón si no me parece atractivo darle mis datos biométricos a una empresa, me temo que sigue pareciéndome menos agresivo cambiar mi contraseña en caso de brecha de seguridad, que cambiar mis huellas dactilares.
El escenario que se plantea es que si alguien se cuela en tu ordenador mientras está encendido (que es lo más probable, no suelen venir a robarte el equipo físicamente a tu casa o a la oficina cuando pueden colarse desde lejos con más rapidez y eficiencia), hay un lugar del disco duro donde está todo lo que hayas hecho con ese ordenador, en texto plano, listo para que se lo lleven y te desplumen. Hablamos de poner en bandeja la peor brecha de seguridad posible.
Pero lo más terrible será que si este producto sale a mercado bajo estas condiciones, será imposible escapar de él: si en algun momento alguna persona abre un fichero en el que haya un dato tuyo dentro de un sistema que tenga Recall en funcionamiento (por citar algunos ejemplos: un hospital, o un banco), tu información personal sensible está potencialmente comprometida desde el mismo momento en que aparezca en pantalla.
Soy una persona flexible ante la idea de que los ordenadores son una herramientas, y como tales, cada persona utilizará la que más le convenga para sus necesidades. Reconozco que hay quien prefiere usar dispositivos de Apple porque únicamente quiere hacer 4 cosas relacionadas con el mundo del arte, y esas 4 cosas concretas ese fabricante las hace mejor que nadie. Entiendo que si quieres jugar, en el momento en que escribo este artículo, Windows 10 tiene el mejor rango de compatibilidad de cara a tener las mínimas sorpresas de cara a lanzar cualquier juego medianamente moderno. Defiendo que si quieres programar y “tocarle las tripas a un sistema operativo”, no hay nada mejor que GNU/Linux… pero el tema de Recall es un error tan absolutamente garrafal que no existe justificación alguna para utilizar cualquier dispositivo con Windows 11: este sistema operativo se está perfilando como algo absolutamente nocivo, y la línea de Surface con Copilot+ que se anuncia a bombo y platillo con las funcionalidades de Recall, debería evitarse como si se tratase de una plaga.
⬆ #Copilot, #InteligenciaArtificalGenerativa, #LLM, #MicrosoftRecall, #Privacidad, #Seguridad, #Windows11