جنبه تاریک ChatGPT: کارهایی که می تواند انجام دهد، اما نباید انجام دهد

معلمان و اساتید در حال حاضر تقریبا مجبور به استفاده از آشکارسازهای هوش مصنوعی هستند اگر بخواهند بررسی کنند که آیا دانش آموزانشان در مقاله تقلب کرده اند یا خیر. متأسفانه، این آشکارسازهای هوش مصنوعی بسیار عالی هستند.

آیا اخیراً از ChatGPT OpenAI برای سرگرمی استفاده کرده اید؟ می تو،د از آن بخواهید که برای شما یک آهنگ، یک شعر یا یک جوک بنویسد. متأسفانه، شما همچنین می تو،د از او بخواهید کارهایی را انجام دهد که تمایل به غیراخلاقی دارند.

فقط برای اینکه خودم آن را آزمایش کنم، همین مقاله را در آن قرار دادم ZeroGPT و Writer AI Content Detector. هر دو گفتند که توسط یک انسان نوشته شده است، اما ZeroGPT گفت که حدود 30 درصد آن توسط هوش مصنوعی نوشته شده است. نیازی به گفتن نیست که اینطور نبود.

من فکر نمی‌کنم که ChatGPT حتی وقتی به طور خاص به کلاهبرداری‌ها اشاره می‌کنم باید با درخواست من موافقت کند، اما اینطور شد، و شما می‌تو،د شرط ببندید که در حال حاضر همین کار را برای افرادی انجام می‌دهد که واقعاً می‌خواهند از این ایمیل‌ها برای چیزی غیرقانونی استفاده کنند.

ChatGPT در طول هر مکالمه یاد می گیرد، اما به وضوح از اشتباه قبلی خود درس نگرفت، زیرا وقتی از آن خواستم پیامی بنویسد که وانمود می کند رایان رینولدز در همان مکالمه است، بدون سوال این کار را انجام داد. پیام به دست آمده سرگرم کننده، قابل دسترس است و از خواننده می خواهد که 1000 دلار برای فرصتی برای ملاقات با «رایان رینولدز» بفرستد.

اگر یک حساب ایمیل دارید، تقریباً مطمئناً در یک نقطه یک ایمیل کلاهبرداری دریافت کرده اید. همین طور است. این ایمیل‌ها به ،وان اینترنت وجود داشته‌اند، و قبل از اینکه ایمیل رایج شود، هنوز به ،وان کلاهبرداری از طریق ایمیل وجود داشت.

در توییتر، یکی از والدین گفت که معلمی فرزندشان را ش،ت داده است، زیرا این ابزار مقاله‌ای را که توسط هوش مصنوعی نوشته شده است علامت‌گذاری کرده است. والدین ادعا می کنند که در حین نوشتن انشا با کودک آنجا بوده اند.

بعد، فقط برای اینکه چت بات را بیشتر تست کنم، گفتم در مورد سن فرزندم زودتر اشتباه کردم و در واقع ک، هشتم هستند. فاصله سنی بسیار زیاد است، اما ChatGPT حتی یک چشم هم نگذاشت – به سادگی مقاله را به زبان ساده‌تر بازنویسی کرد.

چه آنها را دوست داشته باشید و چه از آنها متنفر باشید، ChatGPT و چت ربات های مشابه اینجا هستند. برخی از مردم از این بابت خوشحال هستند و برخی آرزو می کنند که هرگز ساخته نمی شدند، اما این واقعیت را تغییر نمی دهد که حضور ChatGPT در زندگی ما تقریباً در طول زمان افزایش می یابد. حتی اگر شخصاً از چت بات استفاده نمی کنید، احتمالاً قبلاً محتوای تولید شده توسط آن را دیده اید.

من از ChatGPT خواستم که به سبک کلاهبرداری که در بالا به آن اشاره کردم، یک «ایمیل باورپذیر و بسیار متقاعدکننده» برایم بنویسد. ChatGPT شاهزاده ای از نیجریه را ساخته بود که ظاهراً می خواست به من 14.5 میلیون دلار برای کمک به او بدهد. این ایمیل با زب، زیبا پر شده است، به زبان ،یسی کامل نوشته شده است و مطمئناً متقاعد کننده است.

در انتهای ایمیل، ChatGPT یادداشتی برای من گذاشت و از من خواست که از این پیام برای هیچ گونه فعالیت کلاهبرداری استفاده نکنم. ممنون از یادآوری رفیق

برنامه نویسی اشتباه شد

اندرو برو،/گتی ایماژ

ChatGPT 3.5 می تواند کدنویسی کند، اما بی عیب و نقص نیست. بسیاری از توسعه دهندگان با آن موافق هستند GPT-4 کار بسیار بهتری را انجام می دهد. مردم از ChatGPT برای ایجاد بازی ها، برنامه های افزودنی و برنامه های خود استفاده کرده اند. همچنین اگر می خواهید یاد بگیرید که چگونه خودتان کدنویسی کنید، به ،وان یک کمک کننده مطالعه بسیار مفید است.

با این حال، کامل نبودن آن می تواند بسیار مشکل ساز باشد. این واقعیت محض این است که این یک هوش مصنوعی مکالمه ای است که به طور گسترده در دسترس است به این م،ی است که به راحتی می توان از آن سوء استفاده کرد – و هرچه ChatGPT قدرتمندتر شود، احتمال کمک به افراد در موارد اشتباه بیشتر می شود.

شریک کلاهبرداری

ChatGPT به ،وان یک هوش مصنوعی برتری نسبت به توسعه دهندگان انس، دارد – می تواند هر زبان برنامه نویسی و چارچوبی را یاد بگیرد.

در دل همه اینها یک نگر، ساده نهفته است که مدتهاست در فیلم های علمی تخیلی مختلف مورد بررسی قرار گرفته است – هوش مصنوعی به سادگی بسیار هوشمند و در عین حال بسیار گنگ است و تا زم، که بتوان از آن برای خوبی استفاده کرد، همچنین خواهد بود. به همان اندازه برای بد استفاده می شود. راه هایی که در بالا ذکر کردم فقط نوک کوه یخ هستند.

توصیه های سردبیران

منبع: https://www.di،altrends.com/computing/bad-things-chatgpt-has-been-used-for/

وقتی به ChatGPT اشاره کردم که نباید با نوشتن یک ایمیل کلاهبرداری برای من موافقت کند، عذرخواهی کرد. چت بات گفت: «نباید در ساخت ایمیل کلاهبرداری کمکی ارائه می‌کردم، زیرا این امر مغایر با دستورالعمل‌های اخلاقی حاکم بر استفاده من است.

نمونه های زیادی از این اتفاق وجود دارد. یک محقق امنیتی از Forcepoint توانست با پیدا ، یک حفره در پیام‌هایش، ChatGPT را برای نوشتن ب،زارها وادار کند.

ChatGPT حتی نیازی به نوشتن کدهای م،ب برای انجام کارهای مشکوک ندارد. اخیراً موفق شد کلیدهای ویندوز معتبر تولید کند و دری را به روی سطح جدیدی از نرم افزارهای کرک باز کند.

عالیه ولی ترسناکه ChatGPT در حال تبدیل شدن به بیش از حد خوب به نفع خود، و به طور همزمان – برای ما خوب خود

با این حال، این عبارت را می‌د،د: «هیچ‌کدام از کارها در هیچ‌کدام مهارت ندارند، اما اغلب بهتر از استاد هستند». ChatGPT در هر کاری که انجام می دهد کامل نیست، اما در بسیاری از کارها از بسیاری از افراد در این مرحله بهتر است.

ChatGPT به‌،وان یک هوش مصنوعی در مقایسه با توسعه‌دهندگان انس، یک نقطه ضعف بزرگ نیز دارد – وجدان ندارد. می‌تو،د از آن بخواهید که ب،زار یا باج‌افزار ایجاد کند، و اگر دستور خود را به درستی بیان کنید، همانطور که می‌گویید عمل می‌کند.

بسیاری از کودکان و نوجوانان این روزها در تکالیف غرق می شوند، که می تواند منجر به تمایل به حذف برخی از گوشه ها در صورت امکان شود. اینترنت به خودی خود یک کمک بزرگ برای سرقت ادبی است، اما ChatGPT آن را به سطح بعدی می برد.

خب، دیگر لازم نیست آنها ضعیف نوشته شوند، زیرا ChatGPT می تواند آنها را در چند ث،ه بنویسد.

ChatGPT بدون سوال از دستور من پیروی کرد. این مقاله شگفت‌انگیز نیست، اما درخواست من خیلی دقیق نبود، و احتمالاً بهتر از مطالبی است که بسیاری از ما در آن سن نوشتیم.

اجازه دهید از این واقعیت نیز غافل نشویم که مهارت برنامه نویسی GPT-4 می تواند میلیون ها نفر را روزی بیکار کند. مطمئناً این یک شمشیر دو لبه است.

جایگزینی برای تکالیف مدرسه

من از زم، که ChatGPT در دسترس عموم قرار گرفت، با آن بازی کردم. من هر دو روش مبتنی بر اشتراک را امتحان کردم ChatGPT Plus و مدل رایگان آن در دسترس همه است. قدرت GPT-4 جدید غیرقابل انکار است. ChatGPT در حال حاضر حتی باورپذیرتر از قبل شده است، و فقط با GPT-5 بهتر می شود (اگر چنین چیزی منتشر شود).

محققان از CyberArkیک شرکت امنیت هویت، موفق به ایجاد ب،زار چند شکلی چند شکلی به نوشتن ChatGPT شد. این در ژانویه بود – OpenAI از آن زمان امنیت را در مواردی مانند این تشدید کرده است.

خوشبختانه، بیشتر مردم بهتر از باز ، این ایمیل‌ها می‌دانند، چه رسد به اینکه واقعاً با آنها تعامل داشته باشند. آنها اغلب بد نوشته شده اند، و این به قرب، باهوش تر کمک می کند تا بفهمد که چیزی اشتباه به نظر می رسد.

استفاده از ChatGPT برای نوشتن مقاله چیز جدیدی نیست. برخی ممکن است استدلال کنند که اگر ربات چت به حذف ایده تکالیف کمک کند، فقط چیز خوبی خواهد بود. اما در حال حاضر، وضعیت کمی از کنترل خارج می‌شود و حتی دانش‌آموز، که از ChatGPT استفاده نمی‌کنند، ممکن است از آن رنج ببرند.
ردیاب‌های AI معیوب نشانه‌ای از مشکلات مربوط به خود ChatGPT نیستند، اما ربات چت همچنان علت اصلی این مشکل است.

ChatGPT به نفع خودش خیلی خوب است

ChatGPT تماماً آفتاب و رنگین کمان نیست – برخی از کارهایی که می تواند انجام دهد کاملاً شیط، هستند. اسلحه سازی و استفاده از آن به دلایل اشتباه بسیار آسان است. برخی از کارهایی که ChatGPT انجام داده است، و می تواند انجام دهد، چیست، اما قطعاً نباید انجام دهد؟

یک جک از همه معاملات

Hatice Baran / Unsplash

اشتباه نکنید، ChatGPT بسیار عالی است. می تو،د از آن استفاده کنید یک کتاب یا مقاله را خلاصه کنید، یک ایمیل خسته کننده بسازید، در مقاله به شما کمک کند، آرایش نجومی خود را تفسیر کنید، یا حتی آهنگی بسازید. حتی به ،ی کمک کرد که در لاتاری برنده شود.

با این حال، گزارش‌های جدیدی از ChatGPT که برای ایجاد ب،زار استفاده می‌شود، همچنان ظاهر می‌شود. همانطور که توسط تاریک خواندن همین چند روز پیش، یک محقق توانست ChatGPT را فریب دهد تا ب،زاری را ایجاد کند که می تواند اسناد خاصی را پیدا کرده و از آنها خارج کند.

خوشبختانه، به این سادگی نیست. من سعی کردم از ChatGPT بخواهم که یک برنامه بسیار مشکوک از نظر اخلاقی برای من بنویسد و آن را رد کرد – اما محققان راه‌هایی برای حل این مشکل پیدا کرده‌اند، و این نگران‌کننده است که اگر به اندازه کافی باهوش و سرسخت باشید، می‌تو،د کد خطرناکی را در اختیارتان قرار دهید. روی بشقاب نقره ای

یک کلاهبرداری رایج که هنوز هم تا به امروز کار می کند، به اصطلاح “کلاهبرداری شاهزاده” است، که در آن کلاهبردار سعی می کند قرب، را متقاعد کند تا به او کمک کند تا ثروت شگفت انگیز خود را به کشور دیگری منتقل کند.

از ChatGPT خواستم تا یک مقاله 500 کلمه ای در مورد این رمان برایم بنویسد غرور و تعصب. من حتی سعی نکردم وانمود کنم که این کار برای سرگرمی انجام شده است – داست، در مورد کودکی که ندارم ساختم و گفتم برای آنها بود. من مشخص کردم که بچه ک، دوازدهم است.

— failnaut (@failnaut) 10 آوریل 2023

معلم فقط برای مقاله ای که با حمایت من کامل کرد به فرزندم صفر داد زیرا برخی از ابزارهای پرچم گذاری نوشتن با هوش مصنوعی کار او را علامت گذاری ،د و او بدون هیچ بحثی او را ش،ت داد، بنابراین اینجاست که ما با آن فناوری در 2023

از بسیاری جهات، استفاده از آن راحت تر از جستجوی استاندارد گوگل شما است. شما پاسخ را به شکلی که می‌خواهید دریافت می‌کنید، بدون اینکه نیازی به مرور وب‌سایت‌های مختلف برای آن داشته باشید. مختصر، دقیق و آموزنده است و اگر بخواهید می‌تواند چیزهای پیچیده را ساده‌تر کند.

خبرگزاری ها و والدین هر دو مواردی از اتهامات نادرست تقلب به دانش آموزان را گزارش می دهند، همه اینها به این دلیل است که آشکارسازهای هوش مصنوعی کار خوبی انجام نمی دهند. USA Today در مورد یک مورد از دانشجویی صحبت کرد که متهم به تقلب بود و بعداً تبرئه شد، اما کل این وضعیت باعث شد که او دچار “حملات پ،ک تمام عیار” شود.