Un ingeniero británico de Anthropic causó revuelo este martes, luego de presentar su renuncia a la compañía y advertir sobre los riesgos de la Inteligencia Artificial (IA).
El hombre, llamado Jacob Coxon, también había trabajado tres años en OpenAI, y mediante su cuenta de X lanzó una crítica a las dos empresas.
“Están jugando con nuestras vidas”
“Ninguna de las dos empresas está actuando de manera responsable. Se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas. No subestimes el poder de esta tecnología”, señaló, según consignó Emol.
Asimismo, agregó que “pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del avance en cada uno de estos ámbitos, y dicho progreso no se está desacelerando”.
Coxon, de 27 años, fue más allá y afirmó que “quienes desarrollan la IA creen sinceramente que esta podría matarnos a todos antes de que termine la década. No se trata de una maniobra publicitaria”.
“Muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos”, sostuvo. Sin embargo, precisó que “he escuchado a esas mismas personas expresar temor en privado. Ninguna otra actividad humana entraña un peligro de esta magnitud”.
También, abordó cómo enfrentan ambas compañías este riesgo, y realizó una pequeña diferencia. “En OpenAI, muchos no han interiorizado a fondo lo que está en juego para la civilización. En Anthropic, sí comprenden bien la magnitud de lo que está en juego, pero están inmersos en una carrera por llegar primero: creen que nadie más actuará con responsabilidad, por lo que deben hacerlo ellos mismos, a pesar del riesgo”, expresó.
Cabe destacar que, de acuerdo a la agencia AFP, en febrero pasado Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos.
Luego, a finales de julio, más de mil empleados de la industria, incluido el director ejecutivo de Anthropic, Dario Amodei, solicitaron a EEUU preparar un mecanismo de frenado.
