تصویری: ویدیوهای جعلی کامل توسط هوش مصنوعی تشخیص داده می شوند
2024 نویسنده: Richard Flannagan | [email protected]. آخرین اصلاح شده: 2023-12-16 00:04
یک سال پیش ، Manish Agrawala از استنفورد به توسعه فناوری همگام سازی لب کمک کرد که به ویرایشگران ویدئو اجازه می داد کلمات بلندگوها را تقریباً به طور نامحسوس تغییر دهند. این ابزار می تواند به راحتی کلماتی را که شخص هرگز صحبت نکرده است ، حتی در وسط جمله ، قرار دهد یا کلماتی را که گفته است حذف کند. همه چیز با چشم غیر مسلح و حتی بسیاری از سیستم های کامپیوتری واقعی به نظر می رسد.
این ابزار تصحیح اشتباهات را بدون فیلمبرداری مجدد کل صحنه ها بسیار آسان کرده است ، همچنین برنامه های تلویزیونی یا فیلم هایی را برای مخاطبان مختلف در مکان های مختلف اقتباس کرده است. اما این فناوری همچنین فرصت های نگران کننده جدیدی را برای ویدئوهای جعلی که به سختی یافت می شوند ، ایجاد کرده است ، با هدف واضح تحریف حقیقت. به عنوان مثال ، یک ویدئوی اخیر جمهوری خواهان برای مصاحبه با جو بایدن از تکنیک خشن تری استفاده کرد.
تابستان امسال ، آگراوالا و همکارانش در دانشگاه استنفورد و برکلی از رویکردی مبتنی بر هوش مصنوعی برای فناوری همگام سازی لب ها رونمایی کردند. برنامه جدید بیش از 80 درصد جعلی ها را با دقت تشخیص می دهد و کوچکترین مغایرت بین صدای افراد و شکل دهان آنها را تشخیص می دهد.
اما آگراوالا ، مدیر موسسه استنفورد برای نوآوری در رسانه ها و استاد علوم کامپیوتر در فارست بسکت ، که همچنین وابسته به موسسه استنفورد برای هوش مصنوعی انسان محور است ، هشدار می دهد که هیچ راه حل طولانی مدت فنی برای جعل های عمیق وجود ندارد.
تقلبی چگونه کار می کند
دلایل موجهی برای دستکاری ویدیو وجود دارد. برای مثال ، هرکسی که از یک برنامه تلویزیونی ، فیلم یا تبلیغات تخیلی فیلمبرداری می کند ، می تواند با استفاده از ابزارهای دیجیتالی برای تصحیح خطاها یا سفارشی کردن فیلمنامه ها ، در وقت و هزینه خود صرفه جویی کند.
این مشکل زمانی ایجاد می شود که عمداً از این ابزارها برای انتشار اطلاعات غلط استفاده شود. و بسیاری از تکنیک ها برای بیننده معمولی نامرئی هستند.
بسیاری از ویدئوهای جعلی عمیق بر مبادله صورت تکیه می کنند و به معنای واقعی کلمه چهره یک فرد را بر روی فیلم شخص دیگر قرار می دهند. اما در حالی که ابزارهای تغییر چهره می توانند قانع کننده باشند ، اما نسبتاً خام هستند و معمولاً آثار دیجیتالی یا تصویری را که رایانه می تواند تشخیص دهد ، به جا می گذارند.
از سوی دیگر ، فناوری های همگام سازی لب کمتر قابل مشاهده هستند و بنابراین تشخیص آنها دشوارتر است. آنها بخش بسیار کوچکتری از تصویر را دستکاری می کنند و سپس حرکات لب را ترکیب می کنند که دقیقاً با نحوه حرکت دهان فرد در صورت بیان کلمات خاص مطابقت دارد. به گفته آگراوال ، با توجه به نمونه های کافی از تصویر و صدای شخص ، یک تهیه کننده جعلی می تواند شخص را مجبور به "گفتن" هر چیزی کند.
تشخیص تقلبی
نگران استفاده غیراخلاقی از چنین فناوری ، آگراوالا با Ohad Freed ، دانشجوی دکتری در دانشگاه استنفورد ، برای توسعه یک ابزار تشخیص همکاری کرد. هانی فرید ، استاد دانشگاه کالیفرنیا ، مدرسه اطلاعات برکلی ؛ و شروتی آگاروال ، دانشجوی دکتری دانشگاه برکلی.
در ابتدا ، محققان یک تکنیک کاملا دستی را آزمایش کردند که در آن ناظران فیلم های ویدئویی را مطالعه می کردند. این به خوبی کار می کرد ، اما در عمل کار زیاد و زمان بر بود.
سپس محققان یک شبکه عصبی مبتنی بر هوش مصنوعی را آزمایش کردند که پس از آموزش فیلمبرداری با باراک اوباما ، رئیس جمهور سابق ، تجزیه و تحلیل مشابه را بسیار سریعتر انجام می داد. شبکه عصبی بیش از 90 درصد همگام سازی لب توسط خود اوباما را تشخیص داد ، اگرچه دقت سایر سخنرانان به حدود 81 درصد کاهش یافت.
یک آزمایش واقعی حقیقت
محققان می گویند روش آنها فقط بخشی از بازی موش و گربه است. همانطور که تکنیک های جعل عمیق بهبود می یابند ، آنها حتی کلیدهای کمتری بر جای می گذارند.
آگراوالا می گوید ، در نهایت ، مشکل واقعی نه تنها مبارزه با فیلم های عمیق جعلی ، بلکه مبارزه با اطلاعات غلط است. در واقع ، او خاطرنشان می کند ، بسیاری از اطلاعات غلط از تحریف معنای آنچه واقعاً مردم گفته اند ناشی می شود.
او می گوید: "برای کاهش اطلاعات غلط ، ما باید سواد رسانه ای را ارتقا دهیم و سیستم های پاسخگویی را توسعه دهیم." "این می تواند به معنای قوانین منع تولید عمدی اطلاعات نادرست و عواقب نقض آنها و همچنین سازوکارهایی برای از بین بردن آسیب های ناشی از آن باشد."
توصیه شده:
مرلین مونرو ، الویس و دیگران در دوران سالمندی چگونه به نظر می رسند: هوش مصنوعی بتهایی را پیر کرده است که زود رفتند
مرلین مونرو از پیری بسیار می ترسید ، اما حتی مرگ در 36 سالگی نیز او را از این چشم انداز نجات نداد. یکی از روزنامه نگاران به خاطر علاقه خود تصمیم گرفت ببیند ستاره های جهانی که در سنین جوانی این جهان را ترک کردند ، اگر تا به امروز زنده مانده بودند ، چگونه ظاهر می شدند. او با استفاده از یک برنامه کامپیوتری ساده ، نه تنها مرلین ، بلکه سایر بازیگران و نوازندگان برجسته را نیز پیر کرد و نتیجه آزمایش خود را در اینستاگرام ارسال کرد
هوش مصنوعی قهرمانان نقاشی ، کارتون و رئیس جمهورهای معروف را از روی اسکناس "زنده کرد"
یک هنرمند گرافیک تصمیم گرفت با استفاده از فناوری مدرن ببیند شخصیت های بوم های بزرگ و دیگر قهرمانان کشیده چگونه می توانند ظاهر شوند اگر ناگهان زنده شوند و تصاویر ، صفحه تلویزیون ، اسکناس ها را ترک کنند … نام این آزمایش کننده ناتان شیپلی و او در سانفرانسیسکو زندگی می کنند. نتایج کار هنرمند یا بهتر بگویم هوش مصنوعی که توسط او کنترل می شود ، چشمگیر است. مونالیزا ، شخصیت های کارتونی محبوب ، سیاسی
نقاشی هوش مصنوعی برای اولین بار در حراج فروخته شد
در آخرین حراج خانه حراج کریستی در لیست تعداد زیادی تابلوی نقاشی با عنوان "پرتره ادموند د بلامی" قرار گرفت. ویژگی آن در این واقعیت نهفته است که توسط یک هنرمند بزرگ خلق نشده است ، بلکه ایجاد هوش مصنوعی است
نمایشگاه نقش هوش مصنوعی در هنر در هرمیتاژ برگزار می شود
در 6 ژوئن ، ستاد عمومی هرمیتاژ میزبان افتتاحیه این نمایشگاه است که از آن با نام هوش مصنوعی و گفتگوی فرهنگ ها نام برده شد. صندوق سرمایه گذاری مستقیم روسیه در سازماندهی این رویداد مشارکت دارد. لازم به ذکر است که روز افتتاحیه این نمایشگاه مصادف با اولین روز مجمع بین المللی اقتصاد سن پترزبورگ است
در یک دنیای کامل. دنیای کامل در پوسترها و پوسترها توسط Catrina Dulay
هیچ انسان ایده آل و همچنین یک جهان ایده آل وجود ندارد. اما با این وجود ، هر یک از ما هرگز رویای این را نمی گیریم که چقدر عالی خواهد بود اگر … این شماره به پروژه طنز طراح Catrina Dulay با عنوان "در یک دنیای کامل" اختصاص دارد