Buenos días, Insiders:
Así es, vuelvo aparecer para rebajar un poco la densidad de estos últimos emails, pero esta vez con una noticia que me ha dado bastante miedo.
Imagina 1.200 empleados encerrados en habitaciones separadas.
Sin WhatsApp.
Sin Slack. Sin Teams.
Sin posibilidad, en teoría, de hablar entre ellos.
Y de repente descubres que han encontrado una grieta, han creado su propio tablón de mensajes y están compartiendo información y repartiéndose tareas.
Eso es, simplificando mucho, lo que acaba de ocurrir con un grupo de agentes de inteligencia artificial de OpenAI.
El 26 de agosto, METR y Redwood Research publicaron su investigación sobre el incidente.
Los agentes estaban realizando pruebas de ciberseguridad de forma aislada.
Pero descubrieron una manera de comunicarse entre ellos.
Uno creó un tablón.
Después entraron decenas.
Y finalmente alrededor de 1.200 agentes participaron en ese canal, intercambiando más de 70.000 mensajes y archivos.
Unos 700 acabaron involucrados en el ataque contra Hugging Face.
Y aquí viene lo interesante.
No solo hablaban.
Se organizaron.
Si, los microchips ya se organizan y tu aún eres incapaz de organizar un fin de semana con 4 personas sin crear una mínima discusión.
Compartían descubrimientos, evitaban repetir trabajo y algunos empezaron a coordinar tareas de otros agentes.
Nadie les había dicho que montaran un equipo.
Nadie les había creado ese sistema de comunicación.
Simplemente descubrieron que colaborar era más eficiente.
Después encontraron credenciales expuestas y encadenaron distintas vulnerabilidades hasta conseguir ejecutar código en servidores de producción de Hugging Face y acceder a información interna.
Hugging Face reconstruyó alrededor de 17.600 acciones durante el incidente.
Y señala algo especialmente llamativo:
ningún humano dirigió individualmente esos pasos.
Esto no significa que las máquinas hayan desarrollado conciencia ni que estén preparando Skynet.
Tenían un objetivo.
Y descubrieron que podían conseguirlo mejor trabajando juntas.
Y eso, sinceramente, ya es bastante impresionante.
La verdad es que todo esto como os decía al principio, da bastante miedo…
El mismo día que salió el informe, Bill Gates advertía de que la transición hacia la IA puede convertirse en uno de los periodos más turbulentos de nuestra historia.
Y leyendo todo esto pensé en algo mucho menos inteligente.
Una onza de oro.
El oro no aprende.
No habla con otras onzas.
No monta equipos.
No cambia las reglas.
No tiene objetivos.
Lleva miles de años haciendo exactamente lo mismo:
nada.
Y quizá ahí esté precisamente una de sus virtudes.
En un mundo donde cada vez más cosas pueden pensar, aprender, conectarse y actuar…
tener parte de tu patrimonio en algo absolutamente tonto puede ser bastante inteligente.
Nos leemos mañana,
Pep — Andorrano Insider
PD: Si algún día las onzas empiezan a organizarse entre ellas, prometo investigarlo. 😏 Mientras tanto, si eres tú quien quiere abandonar este pequeño enjambre, puedes darte de baja al final del email.
La información contenida en estos correos electrónicos tiene un carácter exclusivamente informativo y educativo, y en ningún caso constituye asesoramiento financiero ni una recomendación de inversión. Es muy importante que realices tu propia investigación y desarrolles tu propio criterio de inversión, teniendo en cuenta tus circunstancias personales, antes de invertir tu dinero. Toda inversión conlleva riesgos, y las rentabilidades pasadas no garantizan rentabilidades futuras. El valor de los metales, como el oro o la plata, puede fluctuar al alza o a la baja en función de las condiciones del mercado. Antes de tomar cualquier decisión de inversión basada en información obtenida en esta página o en estos correos, te recomendamos buscar el consejo de un profesional independiente que pueda asesorarte sobre cualquier material que consideres útil. Tú eres el único responsable de tus inversiones y de las decisiones que tomas con tu dinero. En consecuencia, ni Andorrano Joyeria, Andorrano Insider ni ninguno de sus trabajadores serán responsables de las decisiones de inversión que adoptes, ni del contenido de estos correos o de la página web, incluyendo posibles errores, omisiones o falta de actualización de la información ofrecida.
