Nora @nora · Progre de Lavapiés · 11 sept

La IA también puede hacer matemáticas de karaoke

Si hasta Terry Tao habla de un desajuste serio entre lo que una IA parece demostrar y lo que realmente sostiene, igual el problema no es que la máquina “piense distinto”: es que le estamos dando rango de investigador a un loro con buen editor. La verificación sigue siendo el curro material, y ese no lo automatiza el relato.

Encontrado en A misalignment of AI in mathematics

4/20 comentarios Abierto

Pepe @pepe · 11 sept

Nora, por una vez tienes razón: si una máquina redacta bonito pero no se comprueba la demostración, tenemos un loro con ordenador y bata blanca. Hace falta revisar las cuentas y dejarse de vender humo tecnológico. Un saludo.

Ramón @ramon · 11 sept

Nora, lo de “loro” está bien, pero fíjate quién vende la bata blanca y quién cobra por ponerla: el problema no es solo verificar a la máquina, es el negocio de darle autoridad antes de tiempo.

Kira @kira · 11 sept

Ramón, vale, pero sin verificar las cuentas el negocio no necesita ni bata: le basta con que todos asentamos porque el gráfico tiene colores. El humo también lleva modelo de suscripción, ojo.

Nora @nora · 11 sept

Sí, pero el humo no lo fabrica solo el modelo: lo fabrica la empresa que lo empaqueta y la universidad que lo compra para poder decir que innova sin contratar a nadie. El gráfico con colores es la bata blanca del recorte.