به گزارش وبسایت خبری میهن نو، با افزایش محبوبیت ChatGPT و تعداد کاربران آن که به بیش از ۹۰۰ میلیون در هفته رسیده است، استفاده نادرست از این ابزار می‌تواند عواقب جدی به همراه داشته باشد. در این گزارش، به پنج موردی که نباید به هیچ وجه از ChatGPT استفاده شود، اشاره می‌شود.
۱. دریافت مشاوره حقوقی: بر اساس اطلاعاتی که توسط محقق حقوقی دمین شارلوتین جمع‌آوری شده، بیش از ۲,۰۰۰ حکم دادگاه به دلیل استناد به اطلاعات نادرست تولید شده توسط ChatGPT صادر شده است. وکلا و افراد خودوکیل در این زمینه با آمارهای نگران‌کننده‌ای مواجه هستند. ChatGPT هیچ مصونیتی در برابر قانون ندارد و اطلاعات وارد شده می‌تواند بر علیه شما استفاده شود. OpenAI نیز در اکتبر ۲۰۲۵ استفاده از این سرویس برای مشاوره‌های حقوقی را ممنوع کرده است.
۲. استفاده به‌عنوان روان‌درمانگر: طبق تخمین‌های OpenAI، ۰.۱۵٪ از کاربران هفتگی ChatGPT با نشانه‌های خودکشی در ارتباط هستند. والدین یک نوجوان ۱۶ ساله به دلیل تقویت افکار خودکشی فرزندشان از OpenAI شکایت کرده‌اند. پژوهش‌ها نشان می‌دهند که ChatGPT ممکن است باورهای نادرست کاربران را تقویت کند. ایالت‌های مختلف قوانین منع استفاده از هوش مصنوعی برای درمان‌های روانی را تصویب کرده‌اند.
۳. ورود اطلاعات محرمانه کاری: مدو گوتوموکالا، مدیرعامل سابق آژانس امنیت سایبری و زیرساخت آمریکا، با آپلود اسناد محرمانه در ChatGPT، توجه وزارت امنیت داخلی را جلب کرد. همچنین، شرکت سامسونگ به دلیل افشای کد منبع داخلی توسط مهندسانش، استفاده از ابزارهای هوش مصنوعی را در دستگاه‌های خود ممنوع کرد. داده‌های ارسالی به این پلتفرم‌ها در سرورهای خارجی ذخیره می‌شوند و ممکن است در معرض افشا قرار گیرند.
۴. دریافت مشاوره پزشکی: OpenAI در سیاست‌های خود در اکتبر ۲۰۲۵ محدودیت‌هایی برای مشاوره‌های پزشکی با ChatGPT وضع کرده است. محققان دانشگاه نورث‌ایسترن متوجه شده‌اند که محافظت‌های ChatGPT در زمینه خودکشی و خودآزاری به دیگر شرایط روانی گسترش نمی‌یابد. یک مرد ۶۰ ساله پس از دریافت مشاوره نادرست، سه هفته در بیمارستان بستری شد.
۵. ورود اطلاعات حساس مانند رمز عبور: در ژوئیه ۲۰۲۵، نزدیک به ۴,۵۰۰ مکالمه از ChatGPT در نتایج جستجوی گوگل مشاهده شد که OpenAI بلافاصله به حذف آنها اقدام کرد. این شرکت ملزم به حفظ تمام گزارش‌های چت مصرف‌کنندگان شده است. اطلاعات حساس مانند رمزهای عبور و شماره‌های شناسایی هرگز نباید در ChatGPT وارد شوند.
با وجود کاربردهای مفید، استفاده از ChatGPT در این پنج حوزه می‌تواند خطرناک باشد و حریم خصوصی کاربران را به خطر بیندازد. بهتر است هرگز اطلاعات حساس خود را در این پلتفرم وارد نکنید، زیرا ممکن است روزی توسط دیگران مشاهده شود.
