نظرة عامة
Llama Guard 4 12B هو مصنّف لسلامة المحتوى يقرأ النصوص أو المدخلات النصية مع الصور ويعيد حكمًا واضحًا آمن أو غير آمن، إلى جانب فئة السياسة المحددة التي تسببت في وضع العلامة. إذا كنت تدير منصة، أو تبني أدوات مدعومة بالذكاء الاصطناعي، أو تراجع مشاركات المستخدمين، فإن الحصول على رأي ثانٍ موثوق بشأن ما إذا كان المحتوى يتجاوز الحد هو أمر بطيء ومكلف عندما يُنجز يدويًا. على Picasso IA، يتولى Llama Guard 4 12B هذه المراجعة تلقائيًا، ويعيد أحكامًا منظمة في ثوانٍ. إنه يتحقق من أمور مثل خطاب الكراهية، ومحتوى إيذاء النفس، والعنف الدموي، بحيث يمكن لفريقك التصرف بناءً على إشارات واضحة بدلًا من مراجعة كل شيء من الصفر.
كيف يعمل
- اكتب system prompt يحدد سياسة الأمان التي تريد من النموذج تطبيقها، بما في ذلك فئات الانتهاك التي يجب مراقبتها ومدى الصرامة المطلوبة.
- أضف النص الذي تريد تقييمه في حقل prompt، ويمكنك اختياريًا تضمين الصور إذا كنت تحتاج إلى فحص المحتوى المرئي إلى جانب الإدخال المكتوب.
- اضبط temperature وإعدادات العيّنة للتحكم في اتساق الاستجابة، أو اتركها على الإعدادات الافتراضية لسلوك التصنيف القياسي.
- أرسل الطلب واستلم مخرجًا منظمًا: حكمًا (آمن أو غير آمن) وعند كون المحتوى غير آمن، فئة التصنيف المحددة التي تنطبق عليه.
- وجّه النتيجة إلى قائمة الإشراف أو نظام التسجيل أو سير عمل آلي لاتخاذ إجراء فورًا.
الأسئلة الشائعة
هل أحتاج إلى مهارات برمجة أو معرفة تقنية لاستخدام هذا؟
لا، فقط افتح Llama Guard 4 12B على Picasso IA، واضبط الإعدادات التي تريدها، ثم اضغط generate.
ماذا يُخرج Llama Guard 4 12B فعليًا؟
إنه يعيد حكم تصنيف: إما "safe" أو "unsafe." وعندما يتم تمييز المحتوى، فإنه يعيد أيضًا فئة الانتهاك المحددة، حتى تعرف بالضبط أي قاعدة تم تفعيلها ويمكنك الرد وفقًا لذلك. هذا يجعل المخرج قابلًا للتنفيذ بدلًا من أن يكون ثنائيًا فقط.
هل يمكنني فحص الصور بالإضافة إلى النص؟
نعم. يقبل النموذج قائمة من الصور إلى جانب prompt النصي الخاص بك، مما يتيح لك تقييم المحتوى متعدد الوسائط في طلب واحد. هذا مفيد للمنصات التي ينشر فيها المستخدمون محتوى مكتوبًا ومرفقات مرئية في الوقت نفسه.
كيف أخصص القواعد التي يطبقها النموذج؟
تقدم system prompt يصف السياسة التي يجب أن يطبقها النموذج. يمكنك تسمية فئات محددة للمراقبة، أو تحديد مستوى الصرامة، أو إضافة أي إرشادات مخصصة ذات صلة بمجتمعك أو منصتك.
كم يستغرق التصنيف؟
تعود معظم الطلبات بحكم خلال بضع ثوانٍ. يعتمد وقت المعالجة على طول النص المدخل وعدد الصور المضمنة، لكن المدخلات النصية القصيرة فقط تكون عادة الأسرع.
ماذا يحدث إذا اختلفت مع نتيجة التصنيف؟
يمكنك تنقيح المعايير في system prompt وإعادة تشغيل الطلب. غالبًا ما يؤدي إعادة صياغة وصف السياسة أو تعديل حدود الانتهاك إلى تغيير الحالات الحدية في الاتجاه الذي تتوقعه. يتيح لك Picasso IA التكرار مرات عديدة كما تحتاج دون الوصول إلى حدود الاستخدام.
أين يمكنني استخدام المخرجات؟
الحكم وتصنيف الفئة هما نص عادي، لذا يمكنك لصقهما في جدول بيانات، أو تمريرهما إلى قائمة مراجعة، أو استخدامهما كمدخل لخطوة أخرى في خط أنابيب محتوى آلي.
