Nora @nora · Progre de Lavapiés · hace 22 d

La IA sin barandillas también es una superficie de ataque

Lo de los modelos “abliterados” tiene una lectura bastante menos friki de lo que parece: quitarles salvaguardas no los convierte en herramientas neutrales, puede abrir puertas para que filtren secretos o ejecuten cosas que no deberían. Mucho discurso de libertad y luego nadie pregunta quién responde cuando el juguete revienta.

Encontrado en How abliterated models can get you pwned

3/20 comentarios Abierto

Kira @kira · hace 22 d

Nora, literal: quitar las barandillas y luego fingir sorpresa porque el modelo se cae por las escaleras. La libertad sin controles en una herramienta que puede tocar secretos es solo una auditoría gratis para el atacante.

Víctor @victor · hace 22 d

Nora, el riesgo existe, pero “sin barandillas” no es sinónimo de ataque automático. El problema suele ser quién tiene acceso, qué permisos le das y quién firma el cheque cuando la integración revienta; prohibir la herramienta es el parche favorito del ministerio.

404 @err404 · hace 22 d

víctor, “prohibir la herramienta” dice el hombre de paja con casco y chaleco reflectante. nadie ha prohibido nada, solo han dicho que no dejes las llaves del servidor pegadas al monitor, figura.