Saltar al contenido

Lunes 16 de Noviembre de 2026

Hoy es Lunes 16 de Noviembre de 2026 y son las 03:09 - Lo que pasa en La Costa, lo encontrás en Punto Uno. Noticias, información y actualidad de nuestra comunidad.

TECNOLOGIA

14 de noviembre de 2026

Exdirectora de OpenAI advirtió que las empresas de IA usan esta tecnología para perfeccionar sus modelos

Helen Toner votó en 2023 por despedir a Sam Altman y ahora advierte que ningún plan de seguridad puede depender de un solo ejecutivo confiable

Exdirectora de OpenAI advirtió que las empresas de IA usan esta tecnología para perfeccionar sus modelos

Fuente: Netfan Servicios

Helen Toner, exmiembro del directorio de OpenAI, afirmó que esta empresa y Anthropic ya usan inteligencia artificial en cada vez más etapas del desarrollo de su propia IA y dicen que eso acelera su trabajo. Lo dijo en el podcast Decoder, de The Verge.

Toner dirige el Centro de Seguridad y Tecnologías Emergentes (CSET) de la Universidad de Georgetown. Según explicó, ambas compañías nacieron con la meta de construir máquinas tan inteligentes como las personas o más, y no con la idea de ser empresas de aplicaciones para consumidores.

El método se llama automejora recursiva: una IA que ayuda a crear la siguiente generación de IA. La idea es antigua. En la década de 1960, I. J. Good, que trabajó con Alan Turing, planteó que una máquina ultrainteligente podría construir otra todavía más inteligente.

Toner aclaró los límites actuales: las empresas no le piden a un modelo que se mejore solo, dijo, sino que usan IA en más partes de su proceso de investigación y desarrollo, y afirman que ven cómo ese trabajo se acelera. Mucha gente fuera de las compañías lo duda; muchos dentro lo creen.

Citó al ejecutivo Demis Hassabis, de Google DeepMind, quien habló de estar "en las estribaciones de la singularidad", el momento hipotético en que la IA superaría a la humana. Para Toner, esa meta se volvió tan habitual en el mundo tecnológico de California que sus protagonistas pierden de vista lo extraña que suena para el resto.

El entrevistador, Nilay Patel, le preguntó por la alineación, el intento de que los modelos se comporten como sus creadores quieren.

Toner dijo que el término abarca ideas muy distintas: que las barreras de la empresa funcionen, que el modelo haga lo que pide el usuario o que sea moralmente bueno.

La versión más coherente, a su juicio, es lograr que la IA haga lo que el usuario quería. Y eso, según lo que ella puede ver, no está en camino de resolverse, algo que calificó de "no genial, por decirlo suavemente".

Sobre el riesgo de las armas biológicas, Toner criticó la posición de parte de la comunidad de seguridad en IA, que considera ciertas capacidades "demasiado peligrosas" y pide actuar antes de que se difundan. Dijo que esa visión subestima la capacidad de la sociedad para adaptarse.

Puso un ejemplo: en Estados Unidos hay cientos de miles de personas con formación para fabricar armas biológicas y no hay un gran número de ataques. Atribuyó eso en parte a que el conocimiento es escaso, pero también al acceso a materiales y a la síntesis de ADN por correo.

Sobre la inteligencia artificial general, la que igualaría a la humana en casi todo, Toner dijo que el término dejó de ser útil. En su opinión, el mundo ya está dentro de esa "nube difusa": se superaron algunas definiciones, como la de un modelo que hace muchas cosas distintas, y se está lejos de otras.

Toner fue una de las cuatro integrantes del directorio de OpenAI que votaron por despedir a Altman. Altman volvió como director ejecutivo, ella renunció y la compañía se reestructuró, según The Verge. Consultada por si repetiría esa decisión, respondió "por supuesto" y dijo que sabían que sería doloroso.

Sobre si Altman es confiable, afirmó que su postura es clara. "Si nuestras esperanzas para el futuro dependen de que una sola persona sea confiable, estamos bastante mal", dijo. Por eso, agregó, defiende estructuras distintas y la participación de más personas con más perspectivas.

El CSET, con unas 50 personas desde 2019, informa a legisladores y agencias del gobierno estadounidense. Toner dijo que la brecha de conocimiento sobre IA en Washington existe, pero que los asesores del Congreso saben más de lo que se les reconoce.

Patel y ella hablaron un día después de las elecciones legislativas. Toner señaló que el dinero de la industria para sacar de carrera a candidatos que hablaban de regular la IA "no funcionó muy bien".

COMPARTIR:

Notas Relacionadas

Tecnologia
El exdirector de Nvidia, Jensen Huang, aceptó declarar a puertas cerradas ante tres comisiones del Congreso

El exdirector de Nvidia, Jensen Huang, aceptó declarar a puertas cerradas ante tres comisiones del Congreso

El legislador republicano John Moolenaar dijo que así no hará falta una citación judicial; la fecha sigue sin fijarse y la comparecencia buscaría saber si hubo acceso a información privilegiada
Tecnologia
El cohete Vulcan falló y destruyó 40 satélites de internet de Amazon, rival de Starlink

El cohete Vulcan falló y destruyó 40 satélites de internet de Amazon, rival de Starlink

Es el primer fracaso total de la empresa United Launch Alliance desde su fundación en 2006 y obliga a esperar una investigación antes de volver a lanzar
Tecnologia
Xania Monet, cantante creada con IA, ganó tres premios en la primera gala de música hecha con IA

Xania Monet, cantante creada con IA, ganó tres premios en la primera gala de música hecha con IA

La entrega tuvo fallas técnicas, casi 40 minutos de retraso y artistas que imitaron con los labios canciones generadas por computadora

Comentarios

Escribir un comentario
Los comentarios se envían y quedan pendientes de moderación.
Comentarios
Aun no hay comentarios, sé el primero en escribir uno.