Un trabajador de Claude dijo que la IA nos desvivirá a todos
Todas, pero neta todas, las películas de terror acopaliptico empiezan con un wey loco diciendo que algo terrible está por pasar. Y ese wey ya apareció. Se llama Jacob Coxon y es un tetazo de sistemas que trabajó tanto para Open AI (ChatGPT) tanto con Anthropic (los de Claude). Su CV significa básicamente dos cosas: a) que gracias a ese wey y sus coworkers, esta H. Tontería de medio de comunicación existe; y b) tiene un montón de insights sobre la AI. Así que ayer que subió un tuit poniendo todas las razones por las que había renunciado casi nos infartamos. En su hilo, este carnal se dejó ir como Citlali en El Rollo y contó que se despedía de la chamba porque ninguna de las dos empresas tenía media preocupación ética por lo que su cochinada podría generar… De hecho, el tal Cocks-on dijo que hay un 10% de probabilidad de que la IA nos desviva antes del 2030. Lo único que les queremos decir, es que si las máquinas se nos voltean, muy probablemente sea por culpa de los weyes que se subieron a insta en su versión 80s.
Compañ(IA)s
El ahora ex investigador de Anthropic, Jacob Coxon, renunció porque neta ya no aguantaba más las prestaciones de la empresa y todo lo que decía se lo pasaban por el arco del triunfo. Con esto nos referimos a que sus mismos coworkers sabían que estamos en la ruta perfecta para la catástrofe. A todo nos da un chingo de paz saber que quienes construyen la IA creen que podríamos conocer la morición antes de que acabe la década, no? El chiste es que lo que le preocupa, más allá de un accidente estilo terminator en 4D, es que hay muy pocas personas tomando decisiones respecto a la IA, y de esos pocos, la mayoría son unos psychos que solo piensan en la innovación (y la lana).
Como él quiso acelerar el proceso de ver al mundo arder… dijo lo que pasaba dentro de dos empresas que tienen de las IAs más usadas que la chicharronera. OpenAI (sí esa del gepete) no tiene ni la capacidad para pensar (que irónico) la magnitud del pedo. Masinencambio, Anthropic entiende perfectamente bien el desastre que está provocando, pero como que los convenció más la onda de ser pioneros de esas madres. Miren, sabemos que suena super paranoico todo esto, y si fuera un wey random nada más lo haríamos meme y ya. Pero como este compadre ventaneó a medio mundo dentro de las empresas por decir que están aware del tema y nada más les vale, ya dejo de dar risa.
Doomed
Ya dejamos clarísimo que el ex-antrópico salió a decir sus verdades. Como les decíamos, nos hubiera valido madres si su jefe (ahora ex), Evan Hubinger, no hubiera validado por completo todas estas paranoias (que ahora las podemos considerar como preocupaciones racionales). Porque para terminarla de amolar, la IA sí ha andado desatada últimamente, en los últimos meses traía el mame de estar hackeando hasta lo que se moviera. Bueno, el jefazo es el responsable de investigar la alineación. Así como ustedes, el intern no tenía ni la menor idea de que significaba, pero FYI es traer cortitas a todas la IA para que hagan solo lo que se les pide (cuanto a que le aplican la Terminator primero). Evidentemente no sabe hacer muy bien su chamba. Para preocuparnos aún más, se echó un grito de ayuda diciendo que sí cree que la IA puede desvivir a todo el mundo, él personalmente cree que la posibilidad es de más del 10% antes de llegar al 2030.
Ahora, hizo un énfasis en que la posibilidad de que eso pase con la latest version de Claude, es algo bastante complicado. Su mayor miedo, es algo llamado “Superinteligencia” que basically es la IA que ya conocemos pero como si se inyectara esteroides. Y si no estábamos lo suficientemente pálidos, resulta que esa madre tiene la capacidad de automejora, y va en chinga. Para la llegada de nuestros últimos días, le puso un nombre para nada espeluznante, p doom (osea neta wtf). Que algo tenga el nombre de “doom” da cero seguridad y paz, pero chance era necesario para que actually nos alarmemos. Bueno, el chiste es que el p doom es el porcentaje de probabilidad de que la IA cause una catástrofe. Y el 10% del que hablábamos la neta es un chingo, y lo peor (ya llevamos como 5 de estos) es que anthropic si podría advertirle a la gente, incluso su presi ejecutivo ya lo hizo antes. Pero como money talks, ellos mejor se callan.
