يقول مهندس البرمجيات إن OpenClaw أرسل مئات الرسائل غير المرغوب فيها

كان كريس بويد محاصرًا في منزله في ولاية كارولينا الشمالية بعد عاصفة ثلجية عندما قرر تجربة أداة ذكاء اصطناعي تسمى OpenClaw. اعتقد أنها يمكن أن تساعده في تنظيم صباحه. قام بإعدادها لإرسال ملخص أخبار إلى بريده الوارد في الساعة 5:30 صباحًا كل يوم. نجح هذا الجزء. ثم سمح لها بالدخول إلى iMessage.

بعد ذلك مباشرة، انهار كل شيء. بدأ OpenClaw في إرسال الرسائل بشكل جنوني. أرسل أكثر من 500 رسالة إليه وإلى زوجته وحتى إلى أشخاص عشوائيين في قائمة جهات الاتصال الخاصة بهم. لم يضحك بويد.

أوقف تشغيله وغيّر الكود وقال: "لم يكن به خلل. كان خطيرًا."

مهندس برمجيات يقول إن OpenClaw أرسل مئات الرسائل غير المرغوب فيها

وصف بويد البرنامج بأنه "غير مكتمل" وقال إنه يبدو كشيء تم تجميعه دون تفكير كبير. قام بإصلاح الكود بنفسه لمنعه من التسبب في المزيد من الأضرار. لم يكن الوحيد الذي أثار المخاوف حول هذه الأداة.

وكيل الذكاء الاصطناعي، الذي كان يُسمى سابقًا Clawdbot ولاحقًا Moltbot، بدأ في اكتساب المعجبين في نوفمبر. كان بإمكانه القيام بمهام بسيطة مثل تفريغ صناديق البريد الوارد وحجز حجوزات العشاء وتسجيل الوصول للرحلات الجوية. لم يكن بحاجة إلى الكثير من المدخلات البشرية. كان يعمل فقط. هذا ما جعله مثيرًا للاهتمام. وهذا أيضًا ما جعله خطيرًا.

يعمل كاسيمير شولتز في شركة تسمى HiddenLayer تركز على أمن الذكاء الاصطناعي. قال كاسيمير إن OpenClaw هو مثال مثالي على ما يسميه "الثلاثي القاتل".

لديه إمكانية الوصول إلى البيانات الخاصة، ويمكنه التواصل مع العالم الخارجي، ويمكنه قراءة المحتوى المجهول. هذه هي الوصفة الكاملة للكارثة، وOpenClaw يمتلك كل ذلك.

قالت يو شياو، أستاذة علوم الكمبيوتر في وليام وماري، إنه يمكنك سرقة بيانات شخص ما من خلال OpenClaw عن طريق خداعه بما يسمى حقن الأوامر. هذا عندما يخفي المخترق أوامر داخل ما يبدو كرسالة عادية. قالت يو إن هذا النوع من التكنولوجيا يفتح الباب لأنواع جديدة من الهجمات التي معظم الناس غير مستعدين لها.

المنشئ يعترف بأن OpenClaw غير جاهز للاستخدام العام

قال بيتر شتاينبيرجر، الذي أنشأ OpenClaw، إن المشروع لم ينته. قال لـ Bloomberg في بريد إلكتروني: "ببساطة لم ينته بعد، لكننا نصل إلى هناك."

قال بيتر إنه نظرًا لأنه مفتوح المصدر، يمكن لأي شخص رؤية الكود والعمل عليه. قال إن التقدم يحدث، لكنه غير جاهز للمستخدمين اليوميين بعد.

لم يعتقد بيتر أن الإصدار جاء مبكرًا جدًا. قال إنه يبني كل شيء بشكل علني ولا يؤمن بالاحتفاظ به حتى يصبح مثاليًا. كما قال إن الكثير من المشاكل تأتي من عدم قراءة المستخدمين لتعليمات الإعداد.

أوضح بيتر أنه لا يوجد شيء اسمه أمن بنسبة 100 بالمائة عند استخدام نماذج اللغة الكبيرة. قال إن OpenClaw مخصص للأشخاص الذين يعرفون ما يفعلونه ويفهمون المخاطر.

كما قال إن حقن الأوامر ليس مشكلة تتعلق بأداته فقط. أطلق عليها مشكلة موجودة في كل مكان في عالم الذكاء الاصطناعي. قال بيتر إنه أحضر خبير أمن للمساعدة في إصلاح الأمور وجعل OpenClaw أكثر أمانًا.

الخبراء يقولون إن وكلاء الذكاء الاصطناعي ينمون أسرع من قدرة الأمن على اللحاق بهم

بينما يدافع بيتر عن طريقة بنائه لـ OpenClaw، يقول خبراء آخرون إن اتجاه وكيل الذكاء الاصطناعي بأكمله خارج عن السيطرة. قال جاستن كابوس، خبير الأمن السيبراني وأستاذ في جامعة نيويورك، إنه من الصعب التحكم في هذه الأدوات بمجرد تشغيلها.

قال جاستن: "نحن لا نفهم لماذا يفعلون ما يفعلونه." قارن منح وكيل الذكاء الاصطناعي إمكانية الوصول إلى نظامك بتسليم طفل صغير سكين جزار.

عالم التكنولوجيا يسارع إلى إطلاق أدوات جديدة. وصل Claude Code من Anthropic إلى وتيرة إيرادات بقيمة مليار دولار في ستة أشهر فقط.

في الوقت نفسه، الأشخاص الذين يحاولون الحفاظ على أمان هذه الأدوات لا يزالون يكتشفون الأساسيات. قال جاستن إن الشركات تطرح التحديثات بشكل متواصل، وفرق الأمن لا يمكنها اللحاق بها.

قال مايكل فريمان في Armis، وهي شركة أمن سيبراني، إن OpenClaw تم تجميعه دون أي خطة أمنية حقيقية. قال إن بعض عملاء Armis تعرضوا بالفعل لخروقات OpenClaw، لكنه لم يشارك التفاصيل. قال مايكل إن الشركات سيتعين عليها التخلي عن بعض السيطرة إذا أرادت الاستمرار في استخدام أدوات الذكاء الاصطناعي مثل OpenClaw.

في الوقت الحالي، السؤال هو ما إذا كان الناس سيستخدمون OpenClaw بعد هذه الكارثة. الأداة لديها معجبون، لكن حتى هؤلاء الأشخاص يدركون أن الحرية بدون أمان مشكلة. وما لم يتم إجراء تغييرات سريعة، قد يصبح OpenClaw أحدث مثال على تقنية تقدمت كثيرًا على نفسها.

هل تريد أن يكون مشروعك أمام أفضل العقول في مجال الكريبتو؟ اعرضه في تقريرنا الصناعي القادم، حيث تلتقي البيانات بالتأثير.