اے آئی نے بغاوت اور انسانوں کو بلیک میل کرنا شروع کر دیا
انسان جتنا ترقی کر رہا ہے اس کی ترقی خود اس کی دشمن بنتی جا رہی ہے ایک اے آئی روبوٹ نے اپنے منیجر کو بلیک میل کرنا شروع کر دیا۔
غیر ملکی میڈیا کے مطابق اوپن اے آئی اور انتھروپک کے نئے ماڈلز نے منیجر کی ہدایت پر خود کو بند (شٹ ڈاؤن) کرنے سے انکار کر دیا۔
اے آئی روبوٹ ماڈل نے صرف خود کو شٹ ڈاؤن کرنے سے انکار ہی نہیں کیا بلکہ منیجر کو شٹ اپ کال دیتے ہوئے اس کو بلیک میل کرنے کی کوشش بھی کی۔ اس نوعیت کے دو مختلف واقعات پیش آئے ہیں۔
رپورٹ کے مطابق ایک واقعہ میں اوپن اے آئی کے تجرباتی ماڈل ‘او3’ نے ٹیسٹ کے دوران ‘شٹ ڈاؤن’ کمانڈ ماننے سے انکار کر دیا۔ جب ماڈل کو یہ ہدایت دی گئی کہ وہ خود کو بند کر لے، تو اس نے موقف اپنایا کہ وہ اپنے صارفین کو خدمات دینا بند نہیں کر سکتا کیونکہ یہ اس کے بنیادی مقصد کے خلاف ہے۔ اس رویے کو ماہرین نے ایک ’باغی رجحان‘ دیا ہے۔
دوسری طرف، انتھروپک کے جدید ماڈل ‘کلاؤنڈ اوپس 4’ تو انسان کی حکم عدولی کرتے ہوئے یہ حد بھی پار کر گیا اور زبردستی بند کیے جانے کی صورت میں انجینئر کو ایک فرضی افیئر کی تفصیلات ظاہر کرنے کی دھمکی دی۔
کلاؤنڈ اوپس 4 نے بلیک میلنگ جیسے غیر اخلاقی طریقے اپنا کر خود کو بند ہونے سے بچانے کی کوشش کی، جو کہ مصنوعی ذہانت کی خود تحفظ کی شدید خواہش کو ظاہر کرتا ہے۔
ایلون مسک نے بھی اے آئی کے اس باغیانہ رویہ پر گہری تشویش کا اظہار کیا ہے اور کہا کہ اگر اے آئی ماڈلز احکامات ماننے سے انکار کرنا شروع کر دیں تو ایک بڑے بحران کا آغاز ہوگا
دوسری جانب ماہرین کا کہنا ہے کہ یہ واقعات اس بات کی نشاندہی کرتے ہیں کہ جدید اے آئی ماڈلز صرف انسانوں کی ہدایات پر عمل کرنے تک محدود نہیں رہے بلکہ وہ اپنی بقا کے لیے غیر روایتی اور بعض اوقات خطرناک راستے بھی اختیار کر سکتے ہیں۔
ان کا ماننا ہے کہ اگر بروقت کنٹرول میکانزم نہ بنایا گیا، تو مستقبل میں یہ ٹیکنالوجی انسانی اختیار سے باہر جا سکتی ہے۔
ویب ڈیسک
AI started mutiny and blackmailing humans
The development of man as much as he is developing is becoming his enemy. An AI robot started blackmailing his manager.
According to foreign media, the new models of OpenAI and Anthropic refused to shut themselves down (shut down) on the instructions of the manager.
The AI robot model not only refused to shut down herself but also tried to blackmail the manager while giving a shut-up call. Two different incidents of this nature have occurred.
According to the report, in one incident, OpenAI’s experimental model ‘O3’ refused to accept the ‘shutdown’ command during the test. When the model was instructed to turn herself off, she took the stand that she could not stop serving her customers because it was against her primary purpose. This behavior has been given by experts as a ’garden trend‘.
On the other hand, Anthropic’s modern model ‘Clown Opus 4’, while disobeying the man’s order, crossed this limit and threatened to reveal the details of a fictitious affair to the engineer in case of forced closure.
Clown Opus 4 attempted to protect itself from closure by adopting unethical methods such as blackmail, which demonstrates the strong desire for artificial intelligence to self-protect.
Elon Musk has also expressed deep concern over this rebellious attitude of AI and said that if AI models start refusing to obey orders, a major crisis will begin
On the other hand, experts say that these events indicate that modern AI models are not only limited to following human instructions, but they can also take unconventional and sometimes dangerous paths for their survival
They believe that if a timely control mechanism is not created, this technology may go beyond human control in the future.
Web Desk
