La Universidad Hebrea de Jerusalem se enorgullece de anunciar su participación en RobustifAI, un innovador consorcio de investigación de Horizonte Europa dedicado a fortalecer la fiabilidad y robustez de las tecnologías de Inteligencia Artificial Generativa (GenAI). El proyecto comenzó oficialmente el 1 de junio de 2025, con un presupuesto total de 9,3 millones de euros y una duración prevista de 36 meses.
Liderado por una diversa coalición internacional de instituciones académicas, organizaciones de investigación, pymes y líderes de la industria, RobustifAI tiene como objetivo desarrollar una metodología rigurosa y centrada en el ser humano para diseñar e implementar sistemas GenAI confiables.
Este esfuerzo se centra especialmente en la integración de métodos neuronales y simbólicos dentro de los sistemas ciberfísicos humanos (HCPS), sistemas complejos que fusionan procesos computacionales con la interacción humana y ambiental del mundo real.
Investigación pionera en IA centrada en el ser humano
El profesor Guy Katz, de la Escuela de Ciencias de la Computación e Ingeniería de la Universidad Hebrea, dirigirá los esfuerzos de la universidad en el consorcio. Su experiencia en verificación y métodos formales es fundamental para el objetivo de RobustifAI de abordar las vulnerabilidades técnicas, operativas y centradas en el usuario en los modelos de base.
“La IA generativa es un poderoso motor para la innovación, pero para obtener todos sus beneficios sociales y económicos, debemos asegurarnos de que funcione de manera segura, confiable y ética, especialmente cuando se trata de vidas humanas y sistemas físicos. RobustifAI es un paso esencial en esa dirección”.
Prof Guy Katz
Universidad Hebrea de Jerusalem
Lanzamiento del proyecto y objetivos estratégicos
La reunión oficial de lanzamiento del consorcio se celebró el 5 de junio de 2025 en el Instituto Austriaco de Tecnología AIT en Viena, Austria. Los socios discutieron la hoja de ruta del proyecto y la colaboración cruzada entre los diversos paquetes de trabajo y actividades de investigación.
Al centrarse en el uso de GenAI en HCPS, como vehículos autónomos, sistemas de atención médica y fabricación inteligente, RobustifAI abordará los escenarios más exigentes donde la seguridad y la solidez son de misión crítica. Las metodologías desarrolladas se extenderán a una amplia gama de sectores, garantizando la aplicabilidad en todos los dominios y un impacto social positivo.
Una alianza global fuerte
El consorcio RobustifAI reúne a 18 socios de 12 países, entre ellos:
- Siete universidades: Universidad de Liverpool, Carl von Ossietzky Universität Oldenburg, Universidad Tecnológica de Chalmers, Universidad Hebrea de Jerusalem, Universidad Masaryk, Universidad Técnica de Viena e Instituto Indio de Tecnología de Kanpur.
- Dos organizaciones de investigación y tecnología (RTO): el Instituto Austriaco de Tecnología AIT y el Centro Aeroespacial Alemán (DLR).
- Cinco pymes: CSX-AI, L-up, PPM Robotics, CertX y LOXO.
- Cuatro líderes de la industria: Collins Aerospace, Siemens, Thales y Thales SIX GTS France.
Este consorcio encabezará los esfuerzos para incorporar la solidez, la explicabilidad y el diseño centrado en el ser humano en el núcleo de las tecnologías de IA de próxima generación.
