2

Connect with us

Principal

Desbloqueando la IA empresarial con innovación open source: cualquier modelo, acelerador o nube

Publicado

el

Por: Chris Wright, director de tecnología y vicepresidente sénior, Ingeniero Global, Red Hat

“Cualquier carga de trabajo, cualquier aplicación, en cualquier lugar” fue el mantra del Red Hat Summit 2023. Es cierto que, en los últimos dos años, hemos visto algunos cambios en TI. Pero la visión de Red Hat no ha cambiado, ha evolucionado.

“Cualquier modelo, acelerador o nube”.

Ese es el mensaje de la nube híbrida para la era de la IA. Y la mejor parte es que, al igual que la “antigua” nube híbrida, la innovación open source es la que impulsa todo. En el Red Hat Summit mostramos cómo los ecosistemas de IA estructurados en torno al open source y a modelos abiertos pueden generar nuevas opciones para las empresas.

La apertura trae consigo la posibilidad de elegir y esta libertad da paso a una mayor flexibilidad: desde el modelo que mejor responde a las necesidades de la empresa hasta el acelerador subyacente y el lugar donde se ejecutará efectivamente la carga de trabajo. Las estrategias de IA exitosas seguirán a los datos, dondequiera que se encuentren en la nube híbrida.

¿Y qué impulsa a la nube híbrida? El open source.

La inferencia potencia la IA

En mi opinión, debemos empezar a mirar más allá de los modelos. Sí, es verdad que los modelos son muy importantes para las estrategias de IA. Pero sin la inferencia, la faceta «práctica» de la IA, los modelos son simplemente conjuntos de datos que no «hacen» nada. La inferencia se refiere a la rapidez con la que un modelo responde a la información ingresada por el usuario y a la eficiencia con la que se pueden tomar decisiones en recursos informáticos acelerados. En última instancia, las respuestas lentas y la poca eficiencia cuestan dinero y generan desconfianza en el cliente.

Es por eso que me entusiasma mucho que Red Hat priorice la inferencia en nuestro trabajo con la IA open source, comenzando con el lanzamiento de Red Hat AI Inference Server. Esta solución, que surge a partir del proyecto open source vLLM líder y está optimizada con tecnologías Neural Magic, ofrece a las implementaciones de IA un servidor de inferencia con soporte, ciclo de vida completo y listo para producción. Lo mejor de todo es que puede rastrear tus datos dondequiera que se encuentren, ya que la solución funcionará con cualquier plataforma de Linux, cualquier distribución de Kubernetes, Red Hat o de cualquier otro modo.

¿Qué es mejor que la IA empresarial? La IA empresarial a gran escala

La aplicación estrella de la TI empresarial no es una única carga de trabajo unificada ni un nuevo servicio en la nube: es la capacidad de escalar de forma rápida y eficiente. Esto también se aplica a la IA. Sin embargo, la IA presenta una particularidad: los recursos informáticos acelerados que sustentan las cargas de trabajo de IA también deben escalarse. Esta no es una tarea fácil, en vista de los gastos y las habilidades necesarias para implementar este hardware en la forma debida.

Lo que necesitamos no es solo la capacidad de escalar la IA, sino también de distribuir cargas de trabajo masivas de IA entre múltiples clústeres de computación acelerada. Esto se ve agravado por el escalado del tiempo de inferencia que requieren los modelos de razonamiento y la IA agéntica. Al compartir la carga, se pueden reducir los problemas de rendimiento, mejorar la eficiencia y, en última instancia, la experiencia del usuario. Con el proyecto llm-d de código abierto, Red Hat ha tomado medidas para hacer frente a este problema.

El proyecto llm-d, dirigido por Red Hat y respaldado por líderes del sector de la IA en aceleración de hardware, desarrollo de modelos y cloud computing, combina el poder comprobado de la orquestación de Kubernetes con vLLM, uniendo dos referentes del open source para responder a una necesidad muy real. Junto con tecnologías como el enrutamiento de redes con IA y la descarga de caché KV, entre otras, llm-d descentraliza y democratiza la inferencia de IA y, de ese modo, ayuda a las empresas a optimizar sus recursos informáticos y disponer de cargas de trabajo de IA más efectivas y de menor costo.

Abierto a lo que se viene en IA, no solo al código

Llm-d y vLLM, incluidos en Red Hat AI Inference Server, son tecnologías open source preparadas para responder a los desafíos de la IA empresarial de hoy. Sin embargo, las comunidades de desarrollo no se limitan a analizar lo que se necesita hacer ahora. Las tecnologías de IA tienen una forma particular de acortar los plazos: el vértigo de la innovación implica que algo que se creía que no plantearía un desafío en años, de repente debe afrontarse de lleno.

Por ese motivo es que Red Hat está destinando recursos a la fase de desarrollo inicial de Llama Stack, el proyecto liderado por Meta que ofrece componentes básicos y API estandarizados para los ciclos de vida de las aplicaciones de IA generativa. Además, Llama Stack es ideal para crear aplicaciones de IA agénticas, que representan una nueva evolución de las potentes cargas de trabajo de IA generativa que vemos hoy en día. Más allá de su desarrollo inicial, Llama Stack está disponible como versión preliminar para desarrolladores dentro de Red Hat AI, para aquellas empresas que hoy quieran comprometerse con el futuro.

En lo que respecta a los agentes de IA, aún no contamos con un protocolo común para el modo en que otras aplicaciones les proporcionan contexto e información. Aquí es donde entra en juego el protocolo de contexto de modelo (MCP). Desarrollado y convertido en open source por Anthropic a fines de 2024, se trata de un protocolo estandarizado para las interacciones entre agente y aplicación, similar a los protocolos cliente-servidor de la informática tradicional. Pero lo más importante es que las actuales aplicaciones pueden, de improviso, valerse de la IA sin necesidad de una reimplementación a gran escala. Esto es importantísimo y no sería posible si no fuera por el poder del open source. Al igual que Llama Stack, MCP está disponible como versión preliminar para desarrolladores en la plataforma de Red Hat AI.

Los modelos propietarios de IA pueden haber logrado una ventaja inicial, pero no hay duda de que los ecosistemas abiertos los han superado, en especial en cuanto al software que sustenta estos modelos de IA de próxima generación. Gracias a vLLM y llm-d, junto con productos empresariales open source con seguridad reforzada, el futuro de la IA es prometedor, independientemente del modelo, el acelerador o la nube, y está impulsado por el open source y por Red Hat.

Política

El Salvador, referente mundial en regulación de activos digitales

Publicado

el

El Vicepresidente de la República, Félix Ulloa, participó en la conmemoración del tercer aniversario de la Comisión Nacional de Activos Digitales, junto al Presidente de la institución, Juan Carlos Reyes, en un espacio que reunió a autoridades nacionales, delegaciones internacionales, líderes de la industria, inversionistas y empresas vinculadas al ecosistema de activos digitales.

Durante su intervención, el Vicepresidente Ulloa destacó que El Salvador fue pionero al adoptar Bitcoin en 2021 y señaló que, pese a los desafíos que implicó esta decisión, el país continuó avanzando hacia la construcción de una política financiera innovadora. Recordó que 2023 marcó un punto de inflexión con la creación de la CNAD y la consolidación de un marco institucional orientado al desarrollo de la economía digital.

Asimismo, afirmó que este proceso forma parte de la visión de transformación impulsada por el Presidente Nayib Bukele, bajo la cual El Salvador se proyecta como un país que renace con visión de futuro, fortaleciendo de manera paralela la seguridad, la institucionalidad y la certeza jurídica.

Resaltó que El Salvador se distingue dentro del ecosistema internacional al contar con la CNAD, una institución especializada en la regulación y supervisión de los activos digitales. Añadió que esta transformación también ha estado acompañada por esfuerzos de digitalización y formación de las nuevas generaciones, mediante el acceso a herramientas tecnológicas, Google Classroom y tutores de IA.

Por su parte, el Presidente de la CNAD, agradeció al Presidente Bukele y al Vicepresidente Ulloa por la visión y el respaldo que hicieron posible la creación y consolidación de la institución. Al referirse a los avances alcanzados durante estos tres años, destacó:

  • 156 compañías vigentes dentro del ecosistema supervisado.
  • 144 compañías con asiento registral.
  • 81 proveedores de servicios de activos digitales.
  • 46 emisores de activos digitales e instrumentos tokenizados.
  • US$633 millones vinculados a proyectos de financiamiento inmobiliario tokenizado.

El Presidente de la CNAD destacó además la creciente huella internacional de la institución, señalando que la experiencia desarrollada en El Salvador ha permitido compartir conocimientos y brindar asistencia técnica a otras naciones.

Finalmente, las autoridades reafirmaron su compromiso de continuar fortaleciendo un entorno institucional y regulatorio que genere confianza, atraiga nuevas oportunidades y acompañe el crecimiento de la industria de activos digitales.

Continue Reading

Nacionales

MARN advierte que las lluvias continuarán esta semana

Publicado

el

Las condiciones de nubosidad y lluvias persistirán durante los próximos días en El Salvador, por lo que las autoridades pidieron a la población mantener precaución, especialmente en zonas de topografía irregular, donde podrían registrarse deslizamientos y caída de rocas.

Las autoridades informaron que las lluvias continuarán durante esta semana en diferentes zonas del país debido a la influencia de un campo depresionario, una baja presión y la Zona de Convergencia Intertropical sobre la región.

El ministro de Medio Ambiente, Fernando López, advirtió que las condiciones meteorológicas requieren especial atención en las zonas con terrenos irregulares por la posibilidad de deslizamientos y caída de rocas.

«Estas condiciones de mucha nubosidad y lluvias van a mantenerse durante esta semana. Hay que tener precaución, con énfasis en las zonas con topografía irregular, donde pueden ocurrir deslizamientos y caídas de rocas», señaló el funcionario.

Además, se informó que las áreas naturales protegidas permanecerán cerradas hasta nuevo aviso.

Por su parte, el director de Protección Civil, Luis Alonso Amaya, explicó que el aviso a escala nacional fue emitido debido a la combinación de sistemas atmosféricos que están generando las condiciones lluviosas.

«El día de ayer, se emitió un aviso debido a la influencia de un campo depresionario, una baja presión y la Zona de Convergencia Intertropical sobre nuestra región», informó Amaya.

Durante las últimas 24 horas, las lluvias han generado diversos incidentes en el territorio nacional. Protección Civil contabilizó ocho árboles caídos, cinco deslizamientos, diez vías obstruidas, dos ríos desbordados en Sonsonate, dos vehículos afectados, 18 viviendas anegadas y una vivienda con daños leves.

Entre los incidentes reportados se encuentra el desbordamiento del río Sensunapán, en el distrito de Acajutla, Sonsonate Oeste. Además, equipos de emergencia atendieron a personas que presentaron una crisis nerviosa luego de que un árbol cayera sobre una vivienda en el cantón Chorro Arriba, distrito de Izalco, Sonsonate Este.

A pesar de los incidentes registrados, las autoridades indicaron que no hay personas albergadas como consecuencia de las lluvias.

«Quiero destacar que, hasta este momento, no tenemos personas albergadas como consecuencia de estas lluvias», afirmó Amaya.

Equipos preparados para atender emergencias

Ante el pronóstico de lluvias, el Ministerio de Obras Públicas (MOP) y el Fondo de Conservación Vial (Fovial) han dispuesto 68 planteles a escala nacional para responder ante posibles emergencias.

«Por estas lluvias que se nos avecinan, hemos preparado 68 planteles, a escala nacional, para atender cualquier emergencia entre MOP y Fovial, vamos a tener las cuadrillas las 24 horas del día para atender algún árbol caído, deslizamiento o cualquier inconveniente en la infraestructura del país», declaró el ministro de Obras Públicas, Romeo Rodríguez.

Las cuadrillas permanecerán activas las 24 horas para atender situaciones como árboles caídos, deslizamientos y afectaciones en la infraestructura vial.

Continue Reading

Nacionales

Capturan a tres personas por desórdenes públicos en Soyapango

Publicado

el

La Policía Nacional Civil (PNC) capturó a tres personas señaladas de protagonizar una pelea en la vía pública, en el distrito de Soyapango.

Los detenidos fueron identificados como Jeison Alexander Zavaleta Salgado, Daniel Adalberto Berríos Bonilla y Verónica Guadalupe Cortez Álvarez, quienes fueron ubicados por las autoridades durante la mañana del lunes.

«Tras un video difundido en redes sociales, nuestros equipos procedieron a la búsqueda y captura de los involucrados», publicó la PNC en su cuenta oficial de X.

La corporación policial informó que los detenidos serán puestos a disposición de la Fiscalía General de la República (FGR), para que sean procesados en un juzgado de paz de ese distrito.

Por el delito de desórdenes públicos, los jueces han estado decretando instrucción formal con detención provisional en los expedientes que el Ministerio Público ha judicializado.

En algunos casos, los imputados, tras permanecer varios meses en prisión, han solicitado a sus abogados tramitar un procedimiento abreviado para admitir el delito y concluir el proceso en los tribunales.

Continue Reading

Publicidad

Lo Más Leído