Irlande

Associate AI Researcher – AI Security & Vulnerability Analysis

Opportunité de Carrière : Associate AI Researcher – AI Security & Vulnerability Analysis

Présentation de l’entreprise

CalypsoAI est une entreprise innovante de premier plan dans le domaine de la sécurité de l’intelligence artificielle. Elle est reconnue pour avoir développé la première solution de red-teaming agentique au monde et ambitionne de créer une plateforme avancée pour la sécurisation des systèmes d’IA. L’objectif de CalypsoAI est de permettre aux organisations d’adopter l’IA de manière sécurisée et éthique, en se concentrant sur des systèmes d’IA sophistiqués. Ce poste à Dublin s’inscrit dans cette mission cruciale en recherche d’une personne passionnée par l’intersection de l’IA et de la sécurité.

Détails du Poste

Titre du poste : Associate AI Researcher – AI Security & Vulnerability Analysis
Localisation : Dublin
Salaire attendu : à définir
Date de l’offre : 24 Mai 2025

Résumé du Rôle

En tant que **Junior ou Associate AI Researcher**, vous intégrerez l’équipe de recherche en sécurité de CalypsoAI. Ce rôle s’adresse à des individus aux débuts de leur carrière en recherche, désireux d’explorer les vulnérabilités des systèmes d’IA, notamment les modèles de langage et les systèmes agentiques émergents. Votre contribution sera essentielle pour identifier de nouveaux vecteurs d’attaque et pour développer des mécanismes de défense qui renforceront les capacités de red-teaming de la plateforme.

Responsabilités Clés

*Vous serez chargé de :*

  • Effectuer des recherches sur les vulnérabilités connues et émergentes des modèles de langage (LLM) et des systèmes d’IA agentiques.
  • Concevoir et mettre en œuvre des expériences pour tester la vulnérabilité des modèles d’IA face à divers vecteurs d’attaque.
  • Développer des attaques et des défenses de preuve de concept, en mettant l’accent sur les systèmes agentiques.
  • Collaborer avec des chercheurs expérimentés et des équipes produit pour intégrer vos recherches dans des fonctionnalités concrètes de la plateforme.
  • Rester informé des recherches académiques et des tendances du secteur en matière de sécurité IA.
  • Documenter clairement les résultats de recherche et les élaborations de solutions.

Qualifications Requises

*Les candidats doivent posséder les compétences suivantes :*

  • Diplôme supérieur (Master ou Doctorat) en Informatique, IA, Cyber-sécurité, ou un domaine quantitatif connexe.
  • Compréhension approfondie des concepts de machine learning et de deep learning, notamment des architectures de transformateurs.
  • Maîtrise du langage Python et expérience pratique avec des frameworks ML/DL.
  • Capacité démontrée à mener des recherches à travers des projets académiques ou des publications.
  • Intérêt marqué pour la sécurité IA, l’éthique et le développement responsable.

Qualifications Préférées

*Les candidats possédant une ou plusieurs des compétences suivantes seront privilégiés :*

  • Expérience de recherche ou de projet sur la sécurité de l’IA, les attaques adversariales ou la robustesse des systèmes.
  • Familiarité avec les principes de la cyber-sécurité et du modèle de menace.
  • Contributions aux projets open-source liés à l’IA ou à la sécurité.
  • Expérience en ingénierie logicielle et en travail d’équipe, idéalement dans un rôle de recherche ou d’ingénierie pertinent.

Avantages et Conditions de Travail

CalypsoAI offre un ensemble d’avantages compétitifs pour soutenir le bien-être de ses employés, incluant :

  • ️25 jours de congés annuels.
  • Assurance santé et dentaire entièrement couverte.
  • Plan de pension avec une contribution employeur jusqu’à 3%.
  • Flexibilité avec un modèle de travail hybride.
  • Bureau central à Dublin, avec repas offerts deux fois par semaine.
  • Événements sociaux trimestriels et opportunités de développement professionnel.
  • Heures de travail flexibles pendant trois semaines par an.
  • Reconnaissance et augmentation des avantages avec l’ancienneté.

Conclusion

Travailler chez CalypsoAI, c’est rejoindre une équipe ambitieuse et dynamique dédiée à façonner l’avenir de la sécurité de l’IA. Si vous êtes motivé par un travail à fort impact dans un environnement de soutien, nous serions ravis de recevoir votre candidature.

Postulez dès maintenant !


📅 Date de publication de l’offre : Sat, 24 May 2025 02:31:40 GMT

🏢 Entreprise : CalypsoAI

📍 Lieu : Dublin

💼 Intitulé du poste : Associate AI Researcher – AI Security & Vulnerability Analysis

💶 Rémunération proposée :

📝 Description du poste : About CalypsoAI:As a pioneer in AI Security, CalypsoAI built the world’s first agentic red-team solution and is developing an advanced security platform for rigorous AI red-teaming and robust AI defense, enabling organisations to adopt AI safely and ethically. With an « agent first » approach, we focus on sophisticated AI systems within our core technology and security solutions. Join CalypsoAI to shape the future of secure AI.Role Summary:We are seeking a motivated and technically skilled Junior or Associate AI Researcher to join our expanding AI Security research team in Dublin. This position is aimed at individuals in the early stages of their research careers who are passionate about the critical intersection of Artificial Intelligence and Security. You will actively contribute to the core mission of CalypsoAI by researching novel attack vectors against AI systems, particularly LLMs and emerging agentic systems, directly enhancing our platform’s red-teaming capabilities. Concurrently, you will research and develop innovative defense mechanisms and mitigation strategies that will be integrated into our AI security platform solutions. Working collaboratively within a team of experts, your research will directly influence the products that help secure AI worldwide.Key Responsibilities:

  • Conduct research into known and emerging vulnerabilities specific to LLMs, agentic AI systems, and other machine learning models (e.g., prompt injection, jailbreaking, data poisoning, adversarial attacks, privacy leaks, agent manipulation).
  • Design, implement, and execute experiments to rigorously test the susceptibility of various AI models and systems to different attack vectors.
  • Develop proof-of-concept attacks and defenses, with a particular focus on those relevant to agentic AI systems.
  • Contribute to the development and implementation of novel methods and tools for detecting and mitigating vulnerabilities, feeding directly into CalypsoAI’s platform.
  • Analyze the root causes of identified vulnerabilities and collaborate on devising and evaluating robust defense mechanisms.
  • Contribute research findings and developed techniques directly to the feature roadmap and capabilities of CalypsoAI’s security platform.
  • Stay current with the latest academic research and industry trends in AI security, adversarial machine learning, trustworthy AI, and agentic systems.
  • Collaborate effectively with senior researchers, engineers, and product teams to integrate security research into actionable platform features.
  • Document research findings, experimental results, proposed solutions, and developed tools clearly and thoroughly.
  • Prepare and present findings to internal teams and potentially contribute to external publications or conference presentations.

Required Qualifications:

  • Advanced degree (Master’s or PhD) in Computer Science, Artificial Intelligence, Machine Learning, Cybersecurity, Statistics, Mathematics, or a closely related quantitative field. (Alternatively, a Bachelor’s degree in a relevant field with 1-2+ years of direct, demonstrable research experience in AI/ML).
  • Solid understanding of machine learning, deep learning, and natural language processing concepts, with specific knowledge related to transformer architectures and LLMs.
  • Proficiency in Python programming.
  • Hands-on experience with common ML/DL frameworks (e.g., PyTorch, TensorFlow, JAX) and libraries (e.g., Hugging Face Transformers, scikit-learn).
  • Demonstrated ability to conduct research, evidenced through academic projects, thesis work, publications, or relevant work experience.
  • Strong analytical, problem-solving, and critical thinking skills.
  • Excellent communication skills, capable of articulating complex technical concepts effectively.
  • A strong interest and motivation in AI safety, security, and ethical AI development.
  • Authorization to work in Ireland.

Preferred Qualifications:

  • Direct research experience or significant project work focused on AI security, adversarial machine learning, robustness testing, or LLM/agent vulnerabilities.
  • Experience with or strong interest in agent-based modelling, multi-agent systems, or the security implications of agentic AI.
  • Familiarity with cybersecurity principles and concepts (e.g., threat modelling, penetration testing methodologies, red-teaming).
  • Contributions to open-source projects related to AI/ML or security.
  • Experience with software engineering best practices, including version control (Git) and testing.
  • 1+ years of post-academic experience in a relevant research or engineering role (especially pertinent for Associate level).

Our Benefits & PerksWe offer a competitive benefits package designed to support your well-being, growth, and work-life balance:✅ 25 Days Annual Leave – We believe in the importance of rest and recharge. Enjoy generous time off to relax and pursue personal passions.✅ Fully Covered Health & Dental Insurance – Your well-being is our priority. We provide comprehensive health and dental coverage to keep you and your family protected.✅ Pension Plan (Up to 3% Employer Match) – We invest in your future with a competitive pension plan, matching contributions up to 3%.✅ TaxSaver & Bike to Work Scheme – Save on commuting costs with our tax-efficient travel benefits, whether you prefer public transport or cycling.✅ Income Protection – We offer financial security and peace of mind in the event of unforeseen circumstances.✅ Hybrid Working – We embrace flexibility, offering a hybrid work model that allows you to balance in-office collaboration with remote work.✅ Dublin City Centre Office – Our modern, conveniently located office in the heart of Dublin provides an inspiring space for collaboration and connection.✅ Catered Lunch Twice a Week – For those working from the office, we provide delicious, catered lunches twice a week to fuel your productivity and connection with colleagues.✅ Quarterly Social Events – We love bringing our teams together! From team outings to special events, we ensure there are plenty of opportunities to connect and have fun.✅ Annual CalypsoAI Day – Each year, we dedicate a special volunteering day for employees to contribute to causes that matter.✅ Learning & Development Platforms – We support continuous growth with access to online learning platforms, helping employees upskill and stay ahead in their careers.✅ Work from Anywhere (Up to 3 Weeks Per Year) – Enjoy the freedom to work from anywhere in the world for up to three weeks each year.✅ Increased Benefits with Tenure – At CalypsoAI, we recognise and reward long-term dedication. As you grow with us, you’ll enjoy enhanced pension contributions and additional annual leave, ensuring your commitment is recognised and supported.At CalypsoAI, you’ll be part of an ambitious, fast-growing team shaping the future of AI security. If you’re looking for a role where you can make an impact while enjoying a supportive and rewarding work environment, we’d love to hear from you!#LI-HybridApplyApply for this positionRequired*First Name*Last Name*Email Address*Phone*AddressResume*We’ve received your resume. Click to update it.orAttach resume as .pdf, .doc, .docx, .odt, .txt, or .rtf (limit 5MB) orPaste your resume here orAre you based in Ireland?*Are you eligible to work in Ireland?*Our mandatory in office day is Thursday. Will you be able to come into the office in Dublin City every Thursday?* Yes NoHuman Check*This website uses cookies and other analytics technologies. By selecting « Allow », you consent to the recording, use and sharing of your website activity by this website and its service providers.

➡️ Candidater en ligne


🔎 Offre d’emploi vérifiée et enrichie selon la ligne éditoriale de l’Association Artia13 : éthique, inclusion, transparence et vigilance contre les annonces trompeuses.

🌍 Retrouvez d’autres offres sur artia13.world

Artia13

Depuis 1998, je poursuis une introspection constante qui m’a conduit à analyser les mécanismes de l’information, de la manipulation et du pouvoir symbolique. Mon engagement est clair : défendre la vérité, outiller les citoyens, et sécuriser les espaces numériques. Spécialiste en analyse des médias, en enquêtes sensibles et en cybersécurité, je mets mes compétences au service de projets éducatifs et sociaux, via l’association Artia13. On me décrit comme quelqu’un de méthodique, engagé, intuitif et lucide. Je crois profondément qu’une société informée est une société plus libre.

Artia13 has 3151 posts and counting. See all posts by Artia13