أمن الذكاء الاصطناعي ونماذج اللغة

الأهداف

• فهم سطح هجوم الذكاء الاصطناعي والتعلّم الخصمي • استغلال نماذج اللغة والدفاع عنها (حقن الأوامر) • تأمين تطبيق نموذج لغوي ونظام RAG • استخدام الذكاء الاصطناعي للدفاع وحوكمته

لبنات الوحدة

• BRQ-IAI-001 — سطح هجوم الذكاء الاصطناعي والتعلّم العدائي (MITRE ATLAS) (3 مختبر)
• BRQ-IAI-002 — حقن الأوامر (LLM) (2 مختبر)
• BRQ-IAI-003 — تأمين تطبيقات LLM وRAG (Ollama) (2 مختبر)
• BRQ-IAI-004 — الذكاء الاصطناعي الدفاعي والحوكمة (NIST AI RMF) (2 مختبر)