به نقل از «خبرگزاری آریا»

انتخابات در انگلیس و آمریكا در خطر اطلاعات نادرست هوش مصنوعی است

تاریخ انتشار: ۳۱ اردیبهشت ۱۴۰۲ | کد خبر: ۳۷۷۹۳۲۵۲

خبرگزاری آریا - بنابر گزارش گاردین، کارشناسان هشدار دادند که انتخابات سال آینده در انگلیس و آمریكا ممکن است با موجی از اطلاعات نادرست مبتنی بر هوش مصنوعی رو به رو شود.
به گزارش خبرگزاری آریا به نقل از گاردین، سام آلتمن، مدیرعامل اوپن اِی آی (OpenAI)، خالق چت جی پی تی (ChatGPT)، در جلسه استماع کنگره در واشنگتن گفت مدل‌های آخرین نسل فناوری هوش مصنوعی می‌توانند اطلاعات کاربران را دستکاری کنند.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

توانایی کلی این مدل‌ها برای دستکاری و متقاعد کردن، ارائه اطلاعات نادرست قابل توجه و جای نگرانی دارد.
مردم باید بدانند که آیا با یک هوش مصنوعی صحبت می کنند یا محتوایی که آنها به آن نگاه می کنند واقعی است. برای پیش‌بینی انسان‌ها، به نظر من به ترکیبی از شرکت‌هایی نیاز داریم که کار درست را انجام می‌دهند.
ریشی سوناک، نخست وزیر انگلیس، گفت که انگلیس در محدود کردن خطرات هوش مصنوعی مدیریت خواهد کرد. نگرانی‌ها در مورد این فناوری پس از پیشرفت‌هایی که در هوش مصنوعی مولد، که در آن ابزارهایی مانند ChatGPT وجود دارد که متن، تصاویر و حتی صدا را به صورت قانع‌کننده ای تولید می‌کنند، افزایش یافته است.
در جایی که امواج قبلی ربات‌های تبلیغاتی به پیام‌های از پیش نوشته شده ساده که به‌طور انبوه ارسال می‌شد، یا ساختمان‌های پر از «ترول‌های پولی» برای انجام کار دستی درگیر شدن با انسان‌های دیگر متکی بودند، ChatGPT و سایر فناوری‌ها چشم‌انداز تداخل انتخاباتی تعاملی را در مقیاس بزرگ افزایش می‌دهند.
پروفسور مایکل وولدریج، مدیر بنیاد تحقیقات هوش مصنوعی در موسسه آلن تورینگ انگلیس، گفت که اطلاعات نادرست مبتنی بر هوش مصنوعی نگرانی اصلی او در مورد این فناوری است.
"در حال حاضر نگرانی های من برای هوش مصنوعی، شماره یک در لیست است. ما در انگلیس و آمریكا انتخابات پیش رو داریم و می دانیم که رسانه های اجتماعی مجرای فوق العاده قدرتمندی برای اطلاعات نادرست هستند. اما اکنون می دانیم که هوش مصنوعی مولد می تواند اطلاعات نادرست را در مقیاس صنعتی تولید کند.
وولدریج گفت ربات‌های چت مانند ChatGPT می‌توانند اطلاعات نادرست را تولید کنند که هدف آن، تغییر رای شرکت کننده ها باشد.
پس از انتشار تصاویر جعلی دونالد ترامپ در نیویورک در ماه مارس و بعد انتشار تصاویر چشم نواز توسط هوش مصنوعی از پاپ فرانسیس با ژاکت پف دار، باعث شد مردم دچار گیجی شوند و از این اطلاعات نادرست ابراز نگرانی کردند.
با پیشرفت روزافزون قابلیت‌های هوش مصنوعی، نگرانی‌هایی وجود دارد که باور کردن هر چیزی که آنلاین با آن مواجه می‌شویم شرایط سخت‌تر می‌شود.
برای مثال، شبیه‌سازی صدای جو بایدن، رئیس‌جمهور آمریكا در ماه ژانویه درمورد جنگ اوکراین در شبکه های اجتماعی به اشتراک گذاشته شد و بسیار سرو صدا به پا کرد.
ابزاری که توسط شرکت آمریکایی ElevenLabs ساخته شد، ماهیت ویروسی این کلیپ را روشن کرد و همچنین جمله‌ای از بیل گیتس که ظاهراً گفته بود واکسن کووید-19 باعث ایدز می شود هم بسیار دردسرساز شد. از آن زمان اقدامات حفاظتی در برابر استفاده آزاردهنده از فناوری تشدید پیدا کرد.
Recorded Future، یک شرکت امنیت سایبری ایالات متحده، گفت که بازیگران سرکش را می توان یافت که خدمات شبیه سازی صدا را به صورت آنلاین می فروشند، از جمله توانایی آنها شبیه سازی صدای مدیران شرکت ها و شخصیت های عمومی است.
الکساندر لزلی، تحلیلگر Recorded Future، گفت که این فناوری تنها در آستانه انتخابات ریاست جمهوری آمریكا بهبود می یابد و به طور گسترده در دسترس قرار می گیرد و به صنعت فناوری و دولت ها فرصتی می دهد تا اکنون وارد عمل شوند.
لزلی گفت: «بدون آموزش و آگاهی گسترده، این می‌تواند به یک عامل تهدید واقعی در انتخابات تبدیل شود.
NewsGuard همچنین روز جمعه اعلام کرد که تعداد وب‌سایت‌های خبری و اطلاعاتی تولید شده توسط هوش مصنوعی که از آن‌ها مطلع بود، طی دو هفته بیش از دو برابر شده و به 125 رسیده است.
استیون بریل، مدیر عامل NewsGuard، گفت که او نگران است که بازیگران سرکش بتوانند از فناوری چت بات برای تولید انبوه انواع داستان های جعلی استفاده کنند. او گفت: خطر این است که کسی عمداً از آن استفاده کند تا این روایت‌های نادرست را منتشر کند.

منبع: خبرگزاری آریا

کلیدواژه: اطلاعات نادرست هوش مصنوعی

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.aryanews.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «خبرگزاری آریا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۷۹۳۲۵۲ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

هوش مصنوعی چگونه به معماران و طراحان کمک می‌کند؟

هوش مصنوعی تغییرات چشمگیری در روند کار متخصصان تمام رشته‌ها ایجاد کرده است و معماری و طراحی شهری نیز از این قائده مستثنی نیست.

به گزارش سرویس ترجمه خبرگزاری ایمنا، پس از معرفی فناوری‌های هوش مصنوعی، بسیاری از مردم نگرانی خود را در مورد تاثیرات منفی این فناوری اعلام کردند، با این وجود نتایج ارزنده‌ای که این فناوری‌ها در بهبود کارایی فعالیت‌های مختلف ایجاد کرده است غیرقابل‌انکار است. به نظر می‌رسد که هوش مصنوعی تغییرات چشمگیری در روند کار متخصصان هر رشته ایجاد خواهد کرد و می‌تواند به عنوان ابزاری متفاوت برای انواع مشاغل از جمله معماران و طراحان شهری باشد. برنامه‌ها و پلتفرم‌های زیادی در این زمینه وجود دارد که نه برای جایگزینی، بلکه برای کمک به انجام وظایف تکراری و تجسم ایده‌ها و رسیدگی به مجموعه داده‌های بزرگ، توسعه می‌یابند تا مبنایی برای فرآیند تصمیم‌گیری معماران ایجاد کنند.

کوتاه کردن زمان بین ایده و تجسم

اولین ابزارهای هوش مصنوعی که توسط معماران و طراحان مورد استفاده قرار گرفت، موتورهای تولید تصویر مانند DALL-E، Midjourney و Stable Diffusion هستند که پیام‌های متنی را به تصویر تبدیل می‌کنند. طراحان به کمک این ابزار، می‌توانند از تصویرسازی مبتنی بر زبان استفاده کنند که نتیجه آن تست سریع ایده‌ها و کاهش سطح دانش مورد نیاز برای طراحی است.

طوفان فکری با ابزارهای مولد طراحی فضا

ابزارهای هوش مصنوعی مولد می‌توانند از یادگیری ماشینی برای کمک به آزمایش و ایجاد طرح‌ها و نمایش‌های بصری فضاها با پیروی از مجموعه معیارهای ورودی استفاده کنند. فناوری جدید می‌تواند با تکیه بر ابزارهای گسترده برای طراحی به کمک رایانه (CAD)، به بهینه‌سازی فضاها، تهیه نقشه‌های دوبعدی و سه‌بعدی و بهبود گردش کار کمک کند. برای مثال، Hypar یک پلتفرم مبتنی بر ابر است که به تحلیل و شبیه‌سازی طرح اولیه ساختمان‌ها سرعت و سهولت می‌بخشد. Ark AI طراحی شماتیک و مطالعات تناسب ساختمان را به صورت خودکار انجام می‌دهد و همچنین با انجام مطالعات امکان‌سنجی مطابق با کد، طرح‌های پیشنهادی را بهینه‌سازی می‌کند. Planner 5D یک ربات گفتگو است که به طراحان کمک می‌کند تا با استفاده از فناوری‌های هوش مصنوعی (AI)، واقعیت افزوده (AR) و واقعیت مجازی (VR) به تجسم بهتری از فضای داخلی دست پیدا کنند و طراحی داخلی را به صورت بهینه انجام دهند.

یکی دیگر از پلتفرم‌های مورد استفاده در حوزه معماری، Architechtures است که از یادگیری ماشین برای طراحی ساختمان‌های مبتنی بر هوش مصنوعی استفاده می‌کند، تعامل مستقیم با نتایج تولید شده را سرعت می‌بخشد و امکان ارزیابی ریسک برای ساختمان‌های موجود را به صورت دقیق‌تر فراهم می‌کند.

ارزیابی ریسک برای ساختمان‌های موجود

محققان در حال توسعه فناوری‌هایی مشابه تشخیص چهره هستند تا از آن برای شناسایی و ارزیابی آسیب‌های ساختاری استفاده کنند، زیرا ارزیابی‌های کارآمد و دقیق ساختمان‌های موجود، زمینه را برای پروژه‌های مرمت و استفاده مجدد تطبیقی فراهم می‌کند. برای شناسایی ترک‌ها و عیوب در عناصر ساختمان از یک دوربین عمقی استریو و یک شبکه به اصطلاح عصبی استفاده می‌کنند، سپس یک بازوی رباتیک را هدایت می‌کنند تا عیوب پیداشده را با یک اسکنر لیزری اسکن و یک مدل سه‌بعدی برای آن ایجاد کند. این فناوری، کارایی ارزیابی ریسک را افزایش، حجم فعالیت انسانی را کاهش و داده‌های دقیق‌تری را برای تصمیم‌گیری‌های مربوط به تعمیر و نگهداری ساختمان ارائه می‌دهد.

این سیستم می‌تواند علاوه بر معماری، برای ارزیابی یکپارچگی زیرساخت‌ها مانند پل‌ها، تونل‌ها یا سدها نیز مورد استفاده قرار گیرد و با تشخیص به‌موقع از خطرات احتمالی جلوگیری کند.

برنامه‌ریزی شهری

سیستم‌های هوش مصنوعی مهارت بسیاری در کمک به حوزه‌هایی دارند که باید ورودی ابرداده‌ها را مدیریت کنند که از این جمله می‌توان به برنامه‌ریزی شهری اشاره کرد. فناوری‌هایی مانند سیستم‌های برنامه‌ریزی شهری مبتنی بر هوش مصنوعی مانند Urban Insights و دوقلوهای دیجیتال، نمونه‌سازی سریع و شبیه‌سازی مناظر شهری را امکان‌پذیر می‌کنند و فرایندهای تصمیم‌گیری را ارتقا می‌بخشند. هوش مصنوعی همچنین برای سازگاری با شرایط اقلیمی مورد استفاده قرار می‌گیرد و با ابزارهای گوناگون پوشش درختی مناطق مختلف را ارزیابی و از این طریق به برنامه‌های مربوط به کاهش امواج گرمای شدید کمک می‌کند.

علاوه بر این، نقشه‌برداری هوایی مبتنی بر هوش مصنوعی با شناسایی کارآمد سکونتگاه‌های غیررسمی، برنامه‌ریزی زیرساخت را تسهیل می‌کند. همچنین هوش مصنوعی مشارکت جامعه را از طریق برنامه‌های کاربردی واقعیت افزوده (AR) و واقعیت مجازی (VR) و سیستم‌های مدیریت هوشمند ترافیک تقویت می‌کند و کیفیت فرایندهای برنامه‌ریزی مشارکتی را ارتقا می‌دهد. این فناوری برای ارزیابی و ارتقای ایمنی شهری نیز استفاده می‌شود و چندین برنامه کاربردی به طور خاص بر ایمنی شهری برای زنان متمرکز شده‌اند.

تغییر محیط کاری

معماران شروع به ادغام هوش مصنوعی در طراحی محل‌های کار کرده‌اند و از این فناوری برای شخصی‌سازی فضای کاری کارمندان بر اساس نیازها و ترجیحات فردی آنها استفاده می‌کنند. ابزارهای هوش مصنوعی گزینه‌های طراحی داخلی متعددی را در زمانی بسیار کوتاه‌تر از طراحی دستی ایجاد می‌کنند و نمونه‌سازی سریع بر اساس شرایط محیطی و حرکت انسان را تسهیل می‌کنند. آنها از مجموعه داده‌های وسیع برای بهینه‌سازی طرح‌ها و امکانات رفاهی ساختمان استفاده می‌کنند و همین امرنگرانی‌هایی را در مورد حفظ حریم خصوصی و استفاده از داده‌ها ایجاد کرده است.

کد خبر 749571