بازتولید دروغ؛ چگونه فناوری تاریخ ما را تحریف خواهد کرد؟

اواخر بهمن‌‌ماه سال گذشته بود که خلاقیت یک وب‌‌سایت تازه، توجه کاربران زیادی را به خود جلب کرد. کافی است سری به آدرس وب‌‌سایت thispersondoesnotexist.com بزنید. در نگاه اول، شما تصویر یک فرد عادی را می‌‌بینید؛ اما اگر کمی بیشتر دقت کنید، با عبارتی در گوشه‌‌ی پایین تصویر مواجه می‌‌شوید که می‌‌گوید: «این تصویر با یک الگوریتم شبکه‌‌‌‌ی رقابتی مولد (GAN) تولید شده است». بله، شاید هضم آن برایتان کمی دشوار باشد، ولی این چهره‌‌ها که به‌‌طرز هولناکی واقعی به‌‌نظر می‌‌رسند، متعلق به هیچ انسانی نیستند.

تصاویر تهیه‌شده از thispersondoesnotexist.com، این افراد در دنیای واقعی وجود ندارند

فیلیپ وانگ، یک مهندس نرم‌افزار در اوبر (Uber) است که تصمیم گرفت این وب‌‌سایت را براساس نتایج فعالیت گروهی از پژوهشگران در انویدیا پایه‌‌گذاری کند تا افکار عمومی را از یک توانایی بالقوه‌‌ی فناوری در خلق تصاویر باکمک الگوریتم شبکه‌‌‌‌ی رقابتی مولد آشنا کند. این‌‌ها تنها برنامه‌هایی هستند که شامل دو شبکه‌‌ی عصبی می‌‌شوند. یکی از شبکه‌‌ها یک تصویر ایجاد می‌کند و دیگری تصمیم‌‌گیری می‌‌کند که  این تصاویر تاچه‌‌اندازه واقعی هستند و درواقع، خروجی برنامه‌‌ی اول را باهدف بهبود نتایج، به چالش می‌‌گیرد. هدف نهایی این فرایند، خلق تصویری است که عملا از چهره‌‌ی واقعی یک انسان غیرقابل‌تشخیص باشد.چهره‌‌هایی که در سایت وانگ دیده می‌‌شوند، بسیار واقعی هستند. این چهره‌‌ها می‌‌تواند متعلق به هر کسی در دنیا باشند؛ درحالی‌‌که چهره‌ها متعلق به هیچ‌ انسانی نیست.

چند روز پس از راه‌اندازی این سایت، OpenAI از ابزاری خارق‌‌العاده رونمایی کرد که می‌توانست با کمترین دخالت انسانی، متونی منسجم شامل چندین پاراگراف را از خود بنویسد. آن‌ها بااقتباس از نام فناوری دیگری که می‌‌توانست با مونتاژ تصویر چهره‌‌ی یک فرد روی چهره‌‌ی فردی دیگر، ویدئوهای جعلی تولید کند، این قابلیت تازه را دیپ‌‌فیکس (deepfakes) نوشتاری نام نهادند. در توضیحات گاردین این‌‌گونه آمده است:

این سیستم هوش مصنوعی متون چند کلمه‌‌ای تا یک صفحه‌‌ای را به‌‌عنوان ورودی دریافت می‌‌کند و می‌‌تواند چندین جمله را باتوجه به پیش‌‌بینی‌‌های خود در ادامه‌ی آن بنویسد.

OpenAI به‌‌علت نگرانی‌‌های ناشی‌‌از سوءاستفاده‌‌های احتمالی، هنوز نسخه‌‌ی کامل این فناوری را منتشر نکرده است. بااین‌‌حال، گاردین از این فناوری که با نام GPT2 شناخته می‌‌شود، برای نگارش یک داستان کامل درباره‌‌ی خود این فناوری استفاده کرده است. در مقاله‌‌ی اخیر، تنها دو پاراگراف در اختیار این برنامه‌‌ی رایانه‌‌ای قرار گرفت تا موضوعی برای شروع نگارش داشته باشد. درادامه، برنامه توانست به‌‌خوبی با ورودی‌‌های ارائه‌‌شده، یک داستان کامل از آب دربیاورد که تقریبا با نسخه‌‌های نگاشته‌‌شده توسط یک انسان تفاوت چندانی ندارد. شگفت‌‌انگیز آن‌‌که GPT2 حتی توانست چند نقل‌‌قول ساختگی نیز از سازندگان خود تولید کند. این فناوری پیش‌‌تر هم توانسته بود درحین نگارش یک متن آزمایشی درمورد برگزیت، نقل‌‌قول‌‌هایی جعلی از رهبر حزب کارگر انگلستان تولید کند.

متون GPT2 شباهت حیرت‌‌انگیزی به نوشته‌‌هایی دارد که یک انسان نوشته است، درصورتی‌‌که هیچ انسانی آن را ننوشته است.