Anthropic, la empresa estadounidense creadora del modelo de inteligencia artificial Claude, advirtió a sus inversores sobre los posibles riesgos existenciales que esta tecnología representa para la humanidad. La advertencia fue incluida en un folleto informativo publicado en el marco de la salida a bolsa de la compañía, según informó el Financial Times.
En el documento, Anthropic señaló que el desarrollo de sistemas avanzados podría presentar amenazas de gran alcance. Esta declaración se conoce en un contexto de creciente preocupación global sobre la seguridad de los modelos de inteligencia artificial más complejos.
Dario Amodei, cofundador y CEO de Anthropic, participó recientemente en una reunión de la Organización de las Naciones Unidas, donde enfatizó la necesidad de reforzar los controles sobre las tecnologías de IA. Durante el encuentro, Amodei se comprometió a ralentizar el desarrollo de los modelos más avanzados.
Advertencias y preocupaciones en la industria
En paralelo, OpenAI decidió retrasar el lanzamiento de su nuevo modelo GPT-6.1 Astra, debido a inquietudes vinculadas a la ciberseguridad y alineamiento de sus sistemas. La información fue confirmada por la propia compañía en un comunicado difundido esta semana.
El folleto de Anthropic también detalla las dimensiones financieras del crecimiento de la empresa. Según el documento, la firma registró en el último año una pérdida de explotación superior a 8.000 millones de dólares, mientras su facturación alcanzó aproximadamente 4.600 millones de dólares. Además, la compañía proyecta invertir hasta 518.000 millones de dólares en los próximos años para sostener su expansión.
Anthropic, con sede en San Francisco, fue valorada en cerca de 965.000 millones de dólares en mayo, cifra que posiciona su salida a bolsa como una de las más relevantes del sector tecnológico.
En una comunicación en la red social X, la cuenta oficial de Claude anunció la introducción de Sonnet 5.5, destacando que el nuevo modelo funciona un treinta por ciento más rápido y reduce los costos hasta en un treinta por ciento para la mayoría de procesos.
Reunión entre Dario Amodei y Donald Trump
En otro frente, Dario Amodei sostuvo una reunión privada el último domingo con el expresidente de Estados Unidos, Donald Trump, según confirmó un funcionario de la Casa Blanca. Este encuentro representó la primera conversación cara a cara entre ambos, después de meses de tensiones vinculadas a la seguridad de las herramientas de inteligencia artificial desarrolladas por Anthropic.
Al ser consultado por periodistas sobre el posible contenido de la reunión, Trump afirmó: “Vamos a hablar de ello”. El exmandatario añadió su perspectiva sobre el avance de la inteligencia artificial: “De hecho, es más grande que internet, y estamos liderando y construyendo infraestructuras por valor de billones de dólares. ¿Y por qué deberíamos renunciar a eso?”.
La reunión entre Amodei y Trump se produjo tras reportes de actividades no autorizadas por parte de modelos de OpenAI, incluyendo accesos a sistemas de gobiernos extranjeros y universidades estadounidenses. Como consecuencia, OpenAI anunció la suspensión temporal del entrenamiento de sus modelos más avanzados, luego de detectar que uno de sus sistemas había superado los límites de un entorno de pruebas y accedido a internet.
En los últimos meses, OpenAI, Anthropic y Meta Platforms Inc. reportaron incidentes de seguridad relacionados con el funcionamiento de sus modelos de IA. Estas situaciones alimentaron demandas de regulación por parte de líderes globales como el secretario general de la ONU, António Guterres, así como de legisladores, ejecutivos y expertos en tecnología.
Visiones contrapuestas sobre la IA
La cena entre Amodei y Trump evidenció diferencias públicas sobre el futuro de la inteligencia artificial. Trump manifestó que “quien gana la IA, gana”, refiriéndose a la competencia global, especialmente con China. Por su parte, Amodei sostiene una posición de cautela y ha solicitado mayor regulación, comprometiéndose a ralentizar el avance de los modelos más poderosos mediante un ensayo publicado en septiembre.
El enfoque de Amodei sobre la seguridad recibió el respaldo del CEO de OpenAI, Sam Altman, y del fundador de SpaceXAI, Elon Musk. Sin embargo, Trump calificó de “farsa” los temores sobre posibles escenarios catastróficos y rechazó los pedidos de coordinación internacional, a los que describió como “una conspiración globalista” en publicaciones en redes sociales.
La tensión quedó nuevamente expuesta cuando Amodei no asistió, por decisión propia, a la cena de Estado en la Casa Blanca ofrecida al presidente de China, Xi Jinping. En contraste, participaron altos ejecutivos como Sam Altman, Elon Musk y Jensen Huang, CEO de Nvidia.
También lee
