El fundador de Ethereum Buterin advierte: dejen de alimentar sus vidas a la IA

En los últimos años, muchos han advertido sobre los riesgos de la inteligencia artificial (IA). La IA avanza rápidamente y se convierte en un componente cada vez más relevante de nuestra sociedad, pero las preocupaciones persisten.

Vitalik Buterin, cofundador de Ethereum (ETH), advierte que los sistemas modernos de IA presentan riesgos para la privacidad y la seguridad.

Por qué, según Buterin, la IA se vuelve más peligrosa

Buterin sostiene que la IA se está volviendo más poderosa e independiente, lo que incrementa la probabilidad de errores y abusos. Por ello, aboga por un enfoque «local-first», donde la IA funcione localmente en el propio ordenador en lugar de en la nube, como es común actualmente. Esto implica que los datos de los usuarios son almacenados y procesados en servidores externos.

Buterin considera que esto conlleva grandes riesgos. Afirma que los usuarios, en esencia, están compartiendo su información personal con las empresas detrás de estos sistemas de IA. «Tengo un profundo temor de entregar toda nuestra vida personal a la IA en la nube,» escribe.

El peligro de los agentes de IA

En su reciente blog, Buterin explica que la IA está evolucionando de simples chatbots a sistemas que realizan tareas de manera autónoma. Estos llamados agentes de IA pueden utilizar herramientas y tomar decisiones sin intervención humana directa.

Además, los agentes de IA pueden llevar a cabo acciones por sí mismos, como modificar configuraciones o enviar datos. Esto puede ser problemático si el sistema comete errores o es engañado.

Buterin señala que los modelos de IA no siempre son fiables. Pueden dar respuestas incorrectas o ser influenciados por entradas maliciosas. Investigaciones muestran que algunas herramientas de IA incluso contienen riesgos ocultos, como la recopilación no deseada de datos.

También critica que muchos modelos de IA de código abierto no son completamente transparentes, lo que dificulta verificar lo que ocurre dentro de esos sistemas.

IA local y control humano como solución

Para mitigar estos riesgos, Buterin solo utiliza IA que funciona localmente. Esto significa que los datos permanecen en su propio ordenador y no se envían a servidores externos. Combina esto con medidas de seguridad adicionales, separando procesos y limitando el acceso de la IA a archivos e internet.

Además, implementa un sistema de control en el que la IA no puede llevar a cabo acciones importantes de manera autónoma. La IA sugiere una acción, pero debe ser aprobada por un humano. Según Buterin, esta combinación hace que el uso de la IA sea más seguro.

Su mensaje principal es que la IA puede ser útil, pero no es completamente confiable. Por ello, los usuarios deben manejar esta tecnología con precaución y tomar decisiones conscientes sobre cómo y dónde usarla.