"El mundo está en peligro": el responsable de seguridad de Anthropic abandona la empresa para dedicarse a escribir poesía

En un movimiento más propio del "pingüino nihilista" que del responsable de seguridad de uno de los principales protagonistas del desarrollo de la IA, Mrinank Sharma, jefe de seguridad de inteligencia artificial en Anthropic ha anunciado su renuncia con una carta pública en su perfil de X y consagrará su vida a escribir poesía. En su comunicado, Sharma no solo explicó por qué deja la compañía que desarrolla los modelos de Claude, sino que describió el estado actual del desarrollo de la IA, con un lenguaje que mezcla alarma con reflexión personal. "El mundo está en peligro", aseguraba el ya exdirectivo de Anthropic. El contexto: quién es y qué hacía en Anthropic. Mrinank Sharma dirigía el Safeguards Research Team de Anthropic, un grupo de investigación centrado en estudiar los riesgos asociados a sistemas de IA. Dentro de Anthropic, el trabajo de Sharma incluía desarrollar defensas frente a riesgos como el bioterrorismo asistido por IA y estudiar fenómenos como la sicofancia (la tendencia de los modelos de IA a la adulación del usuario), así como investigar cómo la IA puede influir en la percepción humana y cambiar comportamientos culturales. En Xataka Los salarios de tecnología en España ya no suben al mismo ritmo. La IA determina qué salarios suben más Se va, pero deja un mensaje. La carta, casi criptica, que Sharma publicó en X se hizo rápidamente viral por los mensajes que contenía. En ella, expresó sus preocupaciones con un tono que trasciende lo técnico. Una de las citas que más ha llamado la atención: "El mundo está en peligro. Y no solo por la IA, o las armas biológicas, sino por una serie de crisis interconectadas que se están desarrollando en este mismo momento". Más allá de la literalidad casi apocalíptica, Sharma advirtió que la humanidad se estaba acercando a un punto crítico en el que el desarrollo de la IA se estaba enfrentando a dilemas éticos para quienes la desarrollan "nuestra sabiduría debe crecer al mismo ritmo que nuestra capacidad para afectar el mundo, de lo contrario enfrentaremos las consecuencias". Trabajar para quedarte sin trabajo. Sharma no es el único que se plantea ese dilema ético. Según fuentes de The Telegraph, otros empleados de Anthropic han manifestado estar preocupados por el enorme salto evolutivo de los últimos modelos de IA. "Me siento como si viniera a trabajar todos los días para quedarme sin trabajo", reconocía uno de los empleados al medio británico. En cierto modo es así, ya que estos empleados están trabajando en el desarrollo de una tecnología que, con toda probabilidad, cambie la naturaleza de su trabajo, y el de millones de personas, a pocos años vista. En Xataka Tras convertirse en el gran rival de OpenAI, Anthropic tiene un mensaje para sus futuros empleados: "no usen asistentes de IA" ¿Eso es bueno o es malo? Una primera lectura de la carta deja la sensación de que estos trabajadores están desarrollando el arma que destruirá a la humanidad. Sin embargo, una lectura entre líneas deja a Anthropic en una situación pionera frente a sus rivales de OpenAI, Microsoft o xAI: están logrando avanzar a un ritmo que abruma incluso a sus desarrolladores. Una sensación que no parece producirse en las plantillas de otras empresas. ¿Será que sus modelos no están en ese punto de evolución? "A lo largo de mi tiempo aquí, he visto repetidamente lo difícil que es permitir que nuestros valores guíen nuestras acciones. Constantemente enfrentamos presiones para dejar de lado lo que más importa", escribía Sharma. El giro poético. Además de las reflexiones sobre los riesgos globales que percibe, Sharma anunció que su próximo paso profesional será muy distinto al que tenía hasta ahora. En su carta mencionó su intención de dedicar tiempo a lo que él denominó "la práctica del discurso valiente" a través de la poesía. Este cambio de lA por la poesía ha sido interpretado como un signo de insatisfacción frente al ritmo y el enfoque imperantes en la industria tecnológica de la IA. Al igual que Sharma, en las últimas semanas otras figuras clave en el desarrollo de las IA de Anthropic, han anunciado su dimisión. Harsh Mehta y Behnam Neyshabur también anunciaron hace unos días que abandonaban la compañía. Sin embargo, en estos casos, se hacía el anuncio de salida y, a renglón seguido, se anunciaba un nuevo proyecto de IA. Es decir, que lejos de los postulados éticos que se planteaba Sharma, su intención iba más en la línea de cavar en su propia mina de oro y no en la de otros. En Xataka | Daniela Amodei, cofundadora de Anthropic: "estudiar humanidades será más importante que nunca" Imagen | mrinank sharma, Anthropic - La noticia "El mundo está en peligro": el responsable de seguridad de Anthropic abandona la empresa para dedicarse a escribir poesía fue publicada originalmente en Xataka por Rubén Andrés .