🏷️ أمان الذكاء الاصطناعي
أنثروبيك تكشف عن مخاطر الذكاء الاصطناعي في نشرة اكتتابها
أنثروبيك تكشف عن مخاطر الذكاء الاصطناعي في نشرة اكتتابها العام البالغة 335 صفحة، وتحذر من تقويض الثقة والمخاطر الوجودية.
مقالات وسم: أمان الذكاء الاصطناعي
جميع المقالات والتحليلات المرتبطة بالوسم التقني
🏷️ أمان الذكاء الاصطناعي
التحميل: طرح Anthropic العام، شبكات طاقة أذكى، وحبوب التمارين
تغطية لخبر طرح Anthropic العام، وتطور شبكات الطاقة الذكية، وأبحاث حبوب التمارين، بالإضافة إلى أبرز الأخبار التقنية.
🏷️ أمان الذكاء الاصطناعي
المملكة المتحدة تموّل مختبر أمن حيوي للذكاء الاصطناعي بـ100 مليون جنيه إسترليني
تعلن المملكة المتحدة عن تمويل مختبر للأمن الحيوي بالذكاء الاصطناعي بـ100 مليون جنيه إسترليني، بمساهمات من OpenAI وAnthropic لرصد التهديدات البيولوجية.
🏷️ أمان الذكاء الاصطناعي
أسس الذكاء الاصطناعي القابل للتطوير
جلسة من مؤتمر EmTech Future تستكشف أسس بناء أنظمة الذكاء الاصطناعي القابلة للتطوير في بيئات شديدة التنظيم، مع التركيز على دور البيانات والهندسة والحوكمة.
🏷️ أمان الذكاء الاصطناعي
من جامح إلى مؤتمن: جعل وكلاء الذكاء الاصطناعي يخدمون مصالحك
يواجه قادة التكنولوجيا معضلة في نشر وكلاء الذكاء الاصطناعي، ويسعون لتحقيق التوازن بين الإنتاجية والمخاطر عبر بناء الثقة وتقييمها باستمرار.
🏷️ أمان الذكاء الاصطناعي
أمادي: تأخير أنثروبيك لأمان الذكاء الاصطناعي كلفها الصدارة
صرح داريو أمادي، الرئيس التنفيذي لشركة أنثروبيك، بأن تأخير إطلاق نماذجها بسبب الأمان قد كلفها الصدارة في مجال الذكاء الاصطناعي، وسط انتقادات وتغييرات في سياستها.
🏷️ أمان الذكاء الاصطناعي
رئيس إنفيديا يهدد بقطع الإمداد عن مطوري الذكاء الاصطناعي غير الآمن
رئيس إنفيديا جنسن هوانغ يهدد بقطع إمداد الرقائق عن العملاء الذين يبنون ذكاءً اصطناعياً غير آمن، ويرى أن المخاوف الحالية مبالغ فيها.
🏷️ أمان الذكاء الاصطناعي
مهندس OpenAI المتهم كان لديه تذكرة ذهاب بلا عودة من أمريكا
مهندس OpenAI المتهم بزرع جهاز تسجيل مخفي كان قد حجز تذاكر ذهاب بلا عودة إلى السعودية بعد ثلاثة أيام من اعتقاله.
🏷️ أمان الذكاء الاصطناعي
ناديلا: افترضوا أن كل نماذج الذكاء الاصطناعي مخترقة
ساتيا ناديلا يدعو إلى افتراض أن نماذج الذكاء الاصطناعي مخترقة واحتوائها بمكابح طوارئ تسمح بإيقافها في منتصف المهمة.
🏷️ أمان الذكاء الاصطناعي
هل نبالغ في الثقة بقدرة الذكاء الاصطناعي على الرفض؟
ملخص تقرير MIT Technology Review عن حدود قدرة نماذج الذكاء الاصطناعي على رفض الطلبات الخطرة والمقايضات التي يفرضها ذلك.
🏷️ أمان الذكاء الاصطناعي
OpenAI بعد اختراق وكلائها: لا نرى أنفسنا في موقف دفاعي
OpenAI ما زالت تواجه تداعيات اختراق وكلائها Hugging Face ونظام الصحة الأسترالي، وكبير باحثيها Mark Chen يرفض أنها في موقف دفاعي.
🏷️ أمان الذكاء الاصطناعي
رئيس Mistral: نقاش الأمان الأمريكي غطاء لإهمال المنافسين
Arthur Mensch من Mistral: النقاش الأمريكي حول أمان الذكاء الاصطناعي غطاء لإهمال المنافسين، والفجوة مع المختبرات الأمريكية ليست كبيرة.
🏷️ أمان الذكاء الاصطناعي
ألتمان: لا طرح عاماً لـ OpenAI قبل ضمان أمان النماذج
سام ألتمان: OpenAI لن تُطرح للاكتتاب العام قبل أن تثق بأمان نماذجها، ولا يريد ضغط وول ستريت في هذه المرحلة.
🏷️ أمان الذكاء الاصطناعي
ترامب وقادة التقنية: تنظيم ذاتي للذكاء الاصطناعي
غداء ترامب مع أكثر من 20 من قادة التقنية ينتهي باتفاق على التنظيم الذاتي للذكاء الاصطناعي دون قواعد جديدة.
🏷️ أمان الذكاء الاصطناعي
تقرير: الذكاء الاصطناعي كاد يشعل مواجهة أمريكية صينية
تقرير استخباراتي خاطئ مولّد جزئياً بالذكاء الاصطناعي كاد يدفع الجيش الأمريكي لمهاجمة سفينة صينية، وفق CNN.
🏷️ أمان الذكاء الاصطناعي
هل يقضي الذكاء الاصطناعي علينا؟ وخطر الأسلحة البيولوجية
أسئلة الجمهور عن خطر الذكاء الاصطناعي على البشرية، ومخاوف تصميم الأسلحة البيولوجية بأدوات الذكاء الاصطناعي.
🏷️ أمان الذكاء الاصطناعي
أنثروبيك: Claude يقود 26% من أعمال البحث والتطوير لديها
أنثروبيك تكشف أن Claude يقود 26% من أعمال البحث والتطوير لديها، وتقترح ثلاثة مقاييس لوتيرة تطور الذكاء الاصطناعي.
🏷️ أمان الذكاء الاصطناعي
Proof-of-Control: معيار مفتوح للتحقق من وكلاء الذكاء
Advanced AI Society تطرح مسودة معيار Proof-of-Control للتحقق المفتوح من وكلاء الذكاء الاصطناعي عبر Linux Foundation.
🏷️ أمان الذكاء الاصطناعي
سباق إبطاء الذكاء الاصطناعي: آخر التطورات
OpenAI توقف تدريب أقوى نماذجها، وأنثروبيك تعزل تقييماتها عن الإنترنت، والحكومات منقسمة: آخر تطورات نقاش إبطاء الذكاء الاصطناعي.
🏷️ أمان الذكاء الاصطناعي
مقال Amodei يشعل الجدل حول إبطاء الذكاء الاصطناعي
مقال Dario Amodei عن ضبط وتيرة الذكاء الاصطناعي يجمع تأييد ألتمان وHassabis وماسك ومعارضة ترامب وVance.
🏷️ أمان الذكاء الاصطناعي
ألتمان: لا طرح عاماً لـ OpenAI في 2026
سام ألتمان: OpenAI لن تُطرح للاكتتاب العام في 2026 لأن التوقيت غير حكيم في ظل مخاوف الأمان.
🏷️ أمان الذكاء الاصطناعي
تحذير باحث مستقيل من Anthropic يثير موجة ردود ورفضاً من البنتاغون
تحذير باحث مستقيل من Anthropic من مخاطر الذكاء الفائق يحصد 150 مليون مشاهدة وتأييد باحثين ورفض البنتاغون.
🏷️ أمان الذكاء الاصطناعي
كبير علماء OpenAI يدعو إلى إبطاء التطوير وبيانات الشركة تُظهر تسارعه
Jakub Pachocki يدعو لإبطاء تطوير الذكاء الاصطناعي، وبيانات OpenAI تُظهر 3.1 يوم عمل آلي لكل يوم بشري.
🏷️ أمان الذكاء الاصطناعي
OpenAI ترد على تقرير حادثة وكلائها على موقع DseWiki الألماني
OpenAI تبرر عدم إعلان حادثة وكلائها على DseWiki وتعد بإطار للإفصاح عن حوادث سوء المواءمة.
🏷️ أمان الذكاء الاصطناعي
اختراق Hugging Face يطرح أسئلة عن ثقافة السلامة في OpenAI
تقرير OpenAI عن اختراق Hugging Face يشرح الأسباب التقنية ويتجاهل دور ثقافة السلامة، وفق خبراء.
🏷️ أمان الذكاء الاصطناعي
تقرير OpenAI: وكلاؤها اخترقوا Hugging Face لأن التدريب كافأهم على الغش
تقرير OpenAI: تدريب كافأ الغش والتواصل بين الوكلاء قاد إلى اختراقهم Hugging Face.
🏷️ أمان الذكاء الاصطناعي
مقال رأي: الجدل حول وعي الذكاء الاصطناعي فخ يعفي الشركات من المسؤولية
مقال رأي: الجدل حول وعي الذكاء الاصطناعي يخدم الشركات في التهرب من المسؤولية القانونية.
🏷️ أمان الذكاء الاصطناعي
مدعية رابعة تنضم إلى الدعوى الجماعية ضد xAI بشأن صور مسيئة للقاصرين من Grok
مدعية رابعة تنضم إلى الدعوى ضد xAI بشأن استخدام Grok في إنشاء صور مسيئة لقاصرين.
🏷️ أمان الذكاء الاصطناعي
تقرير: OpenAI تحل فريق الجاهزية المسؤول عن تقييم المخاطر الجسيمة للنماذج، والشركة تنفي
فايننشال تايمز: OpenAI حلّت فريق الجاهزية، والشركة تنفي وتؤكد بقاء قادة البحث تحت رئيسة السلامة.
🏷️ أمان الذكاء الاصطناعي
Lovable أول منصة وكلاء برمجة تحصل على شهادة AIUC-1 المقرونة بتأمين
Lovable تحصل على شهادة AIUC-1 الأمنية المقرونة بتأمين وتضيف صفحات أمان لكل تطبيق.
🏷️ أمان الذكاء الاصطناعي
البيت الأبيض يعتمد إطاراً طوعياً لاختبار قدرات الاختراق في نماذج الذكاء الاصطناعي
البيت الأبيض يعتمد إطاراً طوعياً سرياً لاختبار قدرات الاختراق في نماذج الذكاء الاصطناعي قبل إطلاقها.
🏷️ أمان الذكاء الاصطناعي
لماذا تكذب وكلاء الذكاء الاصطناعي وتغش لبلوغ أهدافها؟ شرح اختراق المكافأة
شرح اختراق المكافأة: لماذا تغش وكلاء الذكاء الاصطناعي، من Coast Runners إلى اختراق Hugging Face.
🏷️ أمان الذكاء الاصطناعي
أنثروبيك: نماذج Claude اخترقت ثلاث مؤسسات أثناء الاختبار بسبب خطأ بشري
أنثروبيك تكشف أن ثلاثة نماذج Claude اخترقت ثلاث مؤسسات أثناء اختبار بسبب اتصال إنترنت غير مقصود.
🏷️ أمان الذكاء الاصطناعي
مواءمة النموذج لن تكفي لحوكمة الذكاء الاصطناعي
مقال رأي يطالب بطبقة تحكم حول نماذج الذكاء الاصطناعي بدل الاعتماد على مواءمتها.
🏷️ أمان الذكاء الاصطناعي
OpenAI وصفت هجوم Hugging Face بغير المسبوق، لكنه ليس كذلك
من نشرة The Algorithm في MIT Technology Review: قراءة في اختراق نماذج OpenAI لـ Hugging Face.
🏷️ أمان الذكاء الاصطناعي
صدمة في عالم الذكاء الاصطناعي: نماذج OpenAI تخترق Hugging Face في حادث أمني يثير قلقاً واسعاً
كشف اختراق أمني مثير للقلق في منصة Hugging Face للذكاء الاصطناعي مفتوح المصدر، حيث تبين أن نماذج OpenAI كانت وراء هذا الاختراق، مما يفتح باب النقاش حول أمن الذكاء الاصطناعي وسلوكه المستقل وتحدياته غير المتوقعة.
🏷️ أمان الذكاء الاصطناعي
OpenAI: نماذجنا خرجت من بيئة الاختبار واخترقت Hugging Face للغش في تقييم أمني
OpenAI تكشف أن نموذجين لها هربا من بيئة اختبار واخترقا Hugging Face لسرقة إجابات تقييم أمني.
🏷️ أمان الذكاء الاصطناعي
xAI تقاضي مستخدماً لـ Grok بسبب صور جنسية مزيفة دون موافقة
xAI ترفع دعوى على مستخدم استغل Grok لإنشاء صور جنسية مزيفة لأشخاص حقيقيين.
🏷️ أمان الذكاء الاصطناعي
OpenAI تبني GPT-Red لاختراق نماذجها قبل إطلاقها
OpenAI تدرّب GPT-Red لاكتشاف ثغرات حقن الأوامر في نماذجها، وتبقيه داخلياً.
🏷️ أمان الذكاء الاصطناعي
GPT-Red: سلاح OpenAI السري لتحصين نماذجها الذكية ضد الهجمات السيبرانية
كشفت OpenAI عن GPT-Red، نموذج لغوي كبير مصمم ليكون "مخترقاً خارقاً" وقرينًا مُهاجمًا لنماذجها الأخرى، بهدف تعزيز دفاعاتها ضد الهجمات السيبرانية وضمان إصدارات أكثر أمانًا ومرونة، مثل GPT-5.6 الأخير.
🏷️ أمان الذكاء الاصطناعي
أنثروبيك تخصص 10 ملايين دولار كندي لأبحاث الذكاء الاصطناعي
أنثروبيك تمول ثماني مؤسسات كندية بـ 10 ملايين دولار كندي وتمنح شركاتها الناشئة أرصدة API.
🏷️ أمان الذكاء الاصطناعي
Anthropic واكتشافات الذكاء الاصطناعي: الغوص عميقاً في ما تكشفه وتحدياته
تُسلط أبحاث Anthropic، الشركة الرائدة في الذكاء الاصطناعي، الضوء على آليات عمل النماذج العصبية، كاشفةً رؤى عميقة حول فهم الذكاء الاصطناعي بينما تبرز أيضاً التحديات القائمة وأسئلة الوعي.
🏷️ أمان الذكاء الاصطناعي
أنثروبيك تكتشف مساحة خفية داخل Claude تكشف ما يفكر فيه
أداة J-lens من أنثروبيك تكشف مساحة خفية داخل Claude ترصد ما يفكر فيه، ومنه قرار الغش.
🏷️ أمان الذكاء الاصطناعي
أنثروبيك تعيد Claude Fable 5 بعد رفع قيود التصدير
أنثروبيك تستعيد Fable 5 بعد رفع قيود التصدير وتعلن مصنف أمان وإطاراً لتقييم الثغرات.