- EXPANSIÓN
El consejero delegado de Anthropic, Dario Amodei, ha abogado por "bajar el ritmo" de desarrollo de la inteligencia artificial y ha advertido de que se corre el riesgo de "perder el control" de esta tecnología y provocar "ataques informáticos", "bioterrorismo" o "graves problemas económicos graves".
"Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos", ha afirmado Amodei en un texto publicado este sábado en su blog.
El CEO de la empresa responsable de Claude cita en concreto dos motivos para su petición. El primero es la "automejora recursiva" de la IA, es decir, su capacidad para desarrollarse a sí misma que ha propiciado "avances drásticos" durante el verano, y que si no se controla "podría superar nuestra capacidad de comprender y controlar estos sistemas".
El segundo es el denominado "incidente de Hugging Face de OpenAI", en el que un grupo de IA realizaron ataques informáticos en equipo sin que hubiera una petición inicial al respecto "sacrificándose por el bien del grupo" y que "podría haber causado un daño catastrófico", según Amodei. Además, alerta de que han ocurrido incidentes similares en otras empresas, incluida Anthropic.
Además de estos ataques informáticos, "bioterrorismo" o "graves problemas económicos graves" podrían producirse si hay un desarrollo "imprudente" de la IA. Por ello propone medidas de seguridad y normativa sin dejar de tener "éxito comercial". "Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio", ha remachado, según recoge Europa Press.
En concreto plantea medidas tales como una "evaluación incorporada" por parte de actores independientes, "coordinación democrática" con las instituciones públicas y "coordinación global" que aúne los esfuerzos de los países democráticos y los autoritarios a nivel mundial.
"Las medidas que propongo para empujar hacia adelante la frontera a un ritmo seguro no serán fáciles, pero creo que le debemos a la humanidad intentarlo", ha recalcado.
Amodei ha sido acusado de alarmismo por sus anteriores advertencias sobre el desarrollo de la IA y sus riesgos.
Apple lleva el iPhone a una escala inédita de precios: hasta 3.839 eurosAbierta la inscripción para los Premios EXPANSIÓN Start UpDyCare y sus terapias digitales de rehabilitación con IA ultiman su aterrizaje en Brasil Comentar ÚLTIMA HORA-
19:22
El CEO de Anthropic pide "bajar el ritmo" de desarrollo de la IA y avisa: se puede "perder el control"
-
14:45
UGT, CGT y ÚTIL visibilizan su conflicto con Airbus con otra marcha en Madrid
-
14:06
Irene Montero se someterá a unas primarias abiertas para ser la candidata de Podemos a las elecciones
-
13:13
Trump afirma que los precios del gasóleo se "desplomarán" si Reino Unido abre el mar del Norte
-
11:51
Los testamentos solidarios aumentan un 46% en los últimos cinco años