15

ڈیپ فیکس اب جنگ کا رخ بدلنے کی کوشش کر رہے ہیں۔

“میں آپ سے کہتا ہوں کہ آپ اپنے ہتھیار رکھ دیں اور اپنے اہل خانہ کے پاس واپس چلے جائیں،” وہ یوکرین میں کہتے نظر آئے کلپ، جس کی شناخت ڈیپ فیک کے طور پر کی گئی۔ “یہ جنگ مرنے کے قابل نہیں ہے۔ میں تمہیں جیتے رہنے کا مشورہ دیتا ہوں، اور میں بھی ایسا ہی کرنے جا رہا ہوں۔”

پانچ سال پہلے، کسی نے ڈیپ فیکس کے بارے میں بھی نہیں سنا تھا، جو مصنوعی ذہانت کی مدد سے بنائی جانے والی قائل نظر آنے والی لیکن جھوٹی ویڈیو اور آڈیو فائلز ہیں۔ ابھی، ان کا استعمال جنگ کے دوران اثر انداز ہونے کے لیے کیا جا رہا ہے۔ جعلی زیلسنکی ویڈیو کے علاوہ، جو پچھلے ہفتے وائرل ہوئی تھی، ایک اور وسیع پیمانے پر گردش کرنے والی ڈیپ فیک ویڈیو تھی جس میں روسی صدر ولادیمیر پوٹن کو یوکرین کی جنگ میں امن کا اعلان کرتے ہوئے دکھایا گیا تھا۔

ڈس انفارمیشن کے ماہرین اور مواد کی توثیق ڈیپ فیکس کے ذریعے جھوٹ اور افراتفری پھیلانے کی صلاحیت کے بارے میں سالوں سے پریشان ہے، خاص طور پر جب وہ زیادہ سے زیادہ حقیقت پسند نظر آتے ہیں۔ عام طور پر، ڈیپ فیکس میں نسبتاً کم وقت میں بہت بہتری آئی ہے۔ مثال کے طور پر پچھلے سال ڈیو میتھیوز بینڈ کے گانوں کو ڈھانپتے ہوئے ایک غلط ٹام کروز کی وائرل ویڈیوز نے دکھایا کہ کس طرح ڈیپ فیکس یقین سے حقیقی ظاہر ہو سکتے ہیں۔

زیلنسکی یا پوٹن کی حالیہ ویڈیوز میں سے کوئی بھی ٹِک ٹاک ٹام کروز کی اعلیٰ پیداواری اقدار کے قریب نہیں آیا (وہ نمایاں طور پر کم ریزولیوشن تھے، ایک چیز کے لیے، جو خامیوں کو چھپانے کا ایک عام حربہ ہے۔) لیکن ماہرین اب بھی انہیں خطرناک سمجھتے ہیں۔ اس کی وجہ یہ ہے کہ وہ روشنی کی رفتار دکھاتے ہیں جس کے ساتھ ہائی ٹیک ڈس انفارمیشن اب پوری دنیا میں پھیل سکتی ہے۔ جیسے جیسے یہ تیزی سے عام ہو رہے ہیں، ڈیپ فیک ویڈیوز آن لائن افسانے سے حقیقت بتانا مشکل بنا دیتے ہیں، اور اس سے بھی زیادہ اس جنگ کے دوران جو آن لائن پھیل رہی ہے اور غلط معلومات سے بھری ہوئی ہے۔ یہاں تک کہ ایک خراب ڈیپ فیک پانی کو مزید کیچڑ میں ڈالنے کا خطرہ رکھتا ہے۔

یونیورسٹی آف سدرن کیلیفورنیا کے ریسرچ ایسوسی ایٹ پروفیسر اور اسکول کی ویژول انٹیلی جنس اور ملٹی میڈیا اینالیٹکس لیبارٹری کے بانی ڈائریکٹر وائل عبد المجید نے کہا، “ایک بار جب یہ لائن مٹ جائے گی، تو سچائی خود موجود نہیں رہے گی۔” “اگر آپ کچھ دیکھتے ہیں اور آپ اس پر مزید یقین نہیں کر سکتے ہیں، تو سب کچھ جھوٹ بن جاتا ہے، ایسا نہیں ہے کہ سب کچھ سچ ہو جائے گا، یہ صرف یہ ہے کہ ہم کسی بھی چیز اور ہر چیز سے اعتماد کھو دیں گے.”

جنگ کے دوران ڈیپ فیکس

2019 میں، یہ خدشات تھے کہ ڈیپ فیکس 2020 کے امریکی صدارتی انتخابات کو متاثر کریں گے، جس میں اس وقت کے امریکی ڈائریکٹر آف نیشنل انٹیلی جنس ڈین کوٹس کی جانب سے ایک انتباہ بھی شامل ہے۔ لیکن یہ نہیں ہوا.

البانی یونیورسٹی میں کمپیوٹر وژن اور مشین لرننگ لیب کے ڈائریکٹر Siwei Lyu کا خیال ہے کہ ایسا اس لیے ہوا کیونکہ ٹیکنالوجی “ابھی موجود نہیں تھی۔” ایک اچھا ڈیپ فیک بنانا آسان نہیں تھا، جس کے لیے واضح نشانات کو ہموار کرنے کی ضرورت ہوتی ہے کہ کسی ویڈیو کے ساتھ چھیڑ چھاڑ کی گئی ہے (جیسے کہ کسی شخص کے چہرے کے فریم کے ارد گرد عجیب و غریب بصری جھٹکے) اور اسے اس میں موجود شخص کی طرح آواز دینا۔ ویڈیو وہی کہہ رہا تھا جو وہ کہہ رہے تھے (یا تو ان کی اصل آواز کے AI ورژن کے ذریعے یا ایک قائل آواز اداکار کے ذریعے)۔

اب، بہتر ڈیپ فیکس بنانا آسان ہے، لیکن شاید زیادہ اہم بات یہ ہے کہ ان کے استعمال کے حالات مختلف ہیں۔ ماہرین نے سی این این بزنس کو بتایا کہ حقیقت یہ ہے کہ اب ان کا استعمال جنگ کے دوران لوگوں کو متاثر کرنے کی کوشش میں کیا جا رہا ہے خاص طور پر نقصان دہ ہے، صرف اس وجہ سے کہ وہ جو الجھن بوتے ہیں وہ خطرناک ہو سکتا ہے۔

عام حالات میں، لیو نے کہا، ہو سکتا ہے کہ ڈیپ فیکس کا زیادہ اثر نہ ہو، دلچسپی حاصل کرنے اور آن لائن کرشن حاصل کرنے سے زیادہ۔ “لیکن نازک حالات میں، جنگ یا قومی تباہی کے دوران، جب لوگ واقعی بہت عقلی طور پر نہیں سوچ سکتے اور ان کی توجہ کا صرف ایک بہت ہی مختصر وقت ہوتا ہے، اور وہ ایسا کچھ دیکھتے ہیں، تب ہی یہ ایک مسئلہ بن جاتا ہے۔” اس نے شامل کیا.

یوکرین میں جنگ کے دوران عام طور پر غلط معلومات کو ختم کرنا زیادہ پیچیدہ ہو گیا ہے۔ ملک پر روس کے حملے کے ساتھ ساتھ ٹویٹر، فیس بک، انسٹاگرام، اور ٹک ٹاک جیسے سماجی پلیٹ فارمز پر معلومات کا ریئل ٹائم سیلاب آیا۔ اس میں سے زیادہ تر اصلی ہیں، لیکن کچھ جعلی یا گمراہ کن ہیں۔ جس چیز کا اشتراک کیا جا رہا ہے اس کی بصری نوعیت — اس کے ساتھ کہ یہ اکثر کتنا جذباتی اور بصری ہوتا ہے — یہ فوری طور پر بتانا مشکل بنا سکتا ہے کہ کیا جعلی ہے اور اصلی کیا ہے۔
نینا سک، “Deepfakes: The Coming Infocalypse” کی مصنفہ زیلنسکی اور پوتن جیسے ڈیپ فیکس کو آن لائن بہت بڑے ڈس انفارمیشن مسئلے کی علامت کے طور پر دیکھتی ہیں، جس کے بارے میں ان کے خیال میں سوشل میڈیا کمپنیاں حل کرنے کے لیے کافی کام نہیں کر رہی ہیں۔ اس نے استدلال کیا کہ فیس بک جیسی کمپنیوں کے جوابات جلدی سے بولا اس نے Zelensky ویڈیو کو ہٹا دیا تھا، اکثر “انجیر کا پتی” ہوتے ہیں۔

“آپ ایک ویڈیو کے بارے میں بات کر رہے ہیں،” اس نے کہا۔ بڑا مسئلہ باقی ہے۔

“حقیقت میں کوئی بھی چیز انسانی آنکھوں کو نہیں مارتی”

جیسے جیسے ڈیپ فیکس بہتر ہوتے جاتے ہیں، محققین اور کمپنیاں ان کو تلاش کرنے کے لیے ٹولز کو جاری رکھنے کی کوشش کر رہے ہیں۔

عبد الماجید اور لیو ڈیپ فیکس کا پتہ لگانے کے لیے الگورتھم استعمال کرتے ہیں۔ لیو کا حل، جس کا نام ڈیپ فیک-او-میٹر ہے، کسی کو بھی اس کی صداقت جانچنے کے لیے ویڈیو اپ لوڈ کرنے کی اجازت دیتا ہے، حالانکہ وہ نوٹ کرتا ہے کہ نتائج حاصل کرنے میں چند گھنٹے لگ سکتے ہیں۔ اور کچھ کمپنیاں، جیسے سائبر سیکیورٹی سافٹ ویئر فراہم کرنے والی کمپنی زیمانا، اپنے سافٹ ویئر پر بھی کام کر رہی ہیں۔

خودکار پتہ لگانے میں مسائل ہیں، تاہم، جیسے کہ ڈیپ فیکس بہتر ہوتے ہی یہ مشکل تر ہوتا جاتا ہے۔ 2018 میں، مثال کے طور پر، لیو نے ویڈیو میں موجود شخص کے پلک جھپکنے کے طریقے میں تضادات کا سراغ لگا کر ڈیپ فیک ویڈیوز کو تلاش کرنے کا ایک طریقہ تیار کیا۔ ایک ماہ سے بھی کم عرصے کے بعد، کسی نے حقیقت پسندانہ پلک جھپکتے ہوئے ایک گہرا فیک بنایا۔

لیو کا خیال ہے کہ لوگ آخر کار سافٹ ویئر کے مقابلے میں ایسی ویڈیوز کو روکنے میں بہتر ہوں گے۔ وہ آخرکار ڈیپ فیک باؤنٹی ہنٹر پروگرام کی ایک قسم کو ابھرتے ہوئے دیکھنا (اور اس میں مدد کرنے میں دلچسپی رکھتا ہے) دیکھنا چاہے گا، جہاں لوگوں کو آن لائن جڑ سے اکھاڑ پھینکنے کے لیے ادائیگی کی جاتی ہے۔ (ریاستہائے متحدہ میں، اس مسئلے کو حل کرنے کے لیے کچھ قانون سازی بھی کی گئی ہے، جیسا کہ کیلیفورنیا کا ایک قانون جو 2019 میں منظور کیا گیا تھا جس میں انتخابات کے 60 دنوں کے اندر سیاسی امیدواروں کی فریب آمیز ویڈیو یا آڈیو کی تقسیم پر پابندی تھی۔)

انہوں نے کہا، “ہم اسے بہت زیادہ دیکھنے جا رہے ہیں، اور گوگل، فیس بک، ٹویٹر جیسی پلیٹ فارم کمپنیوں پر انحصار کرنا شاید کافی نہیں ہے۔” “حقیقت میں کچھ بھی انسانی آنکھوں کو نہیں مارتا۔”

Source link

اس خبر پر اپنی رائے کا اظہار کریں

اپنا تبصرہ بھیجیں