چتباتهای هوش مصنوعی به اشتباه در پاسخهای خود شماره شخصی افراد را ارائه میکنند
گزارشهای جدید نشان میدهد چتباتهای هوش مصنوعی مانند جمینای و چتجیپیتی شماره تلفن و آدرس واقعی افراد را فاش میکنند.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
عضویت در دیجیاتوویدئوی مرتبط
گزارشهای متعددی منتشر شده است که نشان میدهد هوش مصنوعی گوگل و سایر مدلهای مشابه، اطلاعات تماس شخصی افراد را در پاسخ به پرسشهای معمولی فاش میکنند. این وضعیت باعث شده است که برخی افراد با سیل تماسهای مزاحم از سوی غریبهها مواجه شوند، بدون اینکه راهکار مشخصی برای حذف اطلاعات خود از حافظه این هوش مصنوعیها داشته باشند.
یکی از کاربران شبکه اجتماعی ردیت با ابراز درماندگی اعلام کرده است که به دلیل اشتباه هوش مصنوعی مولد گوگل، روزانه با تماسهای متعددی از سوی افرادی روبهرو میشود که به دنبال خدماتی مانند وکیل یا قفلساز هستند.
مشابه این اتفاق نیز برای یک توسعهدهنده نرمافزار رخ داده است. جمینای به اشتباه شماره شخصی او را به عنوان شماره خدمات مشتریان اپلیکیشن PayBox معرفی کرده، درحالیکه او هیچ ارتباطی با این شرکت ندارد. جالب اینجاست که بررسیهای این فرد نشان داد شماره او تنها یکبار در سال ۲۰۱۵ در یک وبسایت محلی منتشر شده بود، اما هوش مصنوعی پس از گذشت یک دهه، آن را از اعماق وب استخراج و بازتولید کرده است.
افشای شماره تلفن افراد در چتباتهای هوش مصنوعی
کارشناسان حریم خصوصی و محققان هوش مصنوعی معتقدند که این مشکل به دلیل استفاده از اطلاعات قابل شناسایی شخصی در دادههای آموزشی مدلهای زبانی بزرگ رخ میدهد. شرکت DeleteMe که در زمینه حذف اطلاعات شخصی از وب فعالیت میکند، گزارش داده است که درخواستهای مرتبط با حریم خصوصی در حوزه هوش مصنوعی در هفت ماه گذشته ۴۰۰ درصد افزایش یافته است.
طبق آمار این شرکت، بیشترین نگرانیها مربوط به ChatGPT با ۵۵ درصد و سپس جمینای با ۲۰ درصد است. مدیرعامل دلیتمی توضیح میدهد که چتباتها گاهی اطلاعات دقیق و گاهی اطلاعات اشتباه اما باورپذیری را ارائه میدهند که در هر دو صورت منجر به مزاحمت برای افراد میشود.
در آزمایش دیگری، دانشجویان دکترای دانشگاه واشینگتن دریافتند که جمینای میتواند به راحتی شماره تلفنهای شخصی را که در نتایج عادی گوگل به سختی پیدا میشوند، استخراج کند. آنها همچنین متوجه شدند که ChatGPT بهرغم داشتن نردههای حفاظتی، با کمی اصرار و استفاده از روشهای جستجوی کارآگاهی، اطلاعات حساسی مانند آدرس منزل و نام همسر یک استاد دانشگاه را از سوابق عمومی او استخراج کرده و ارائه داده است. حتی چتبات Grok نیز با دریافت نام افراد، آدرس دقیق محل سکونت و شماره تماس آنها را فاش کرده است.
درحالحاضر هیچ راهحل قطعی برای حذف این دادهها وجود ندارد. «جنیفر کینگ» از دانشگاه استنفورد اشاره میکند که قوانین فعلی مانند مقررات عمومی حفاظت از دادههای اروپا (GDPR) لزوماً دادههای عمومی استخراج شده از وب را پوشش نمیدهند. اگرچه شرکتهایی مانند OpenAI و گوگل مسیرهایی را برای اعتراض یا درخواست حذف دادهها ایجاد کردهاند، اما این فرایندها طولانی هستند و همیشه به نتیجه نمیرسند.
دیدگاهها و نظرات خود را بنویسید
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.
لطفا یکی که وصله بره ازشون شماره ستار هاشمی و فاجعه مهاجرانی رو بگیره برسونه دست کوروش چایچی
منتظره انتقادات و... عشاق آمریکا و غرب هستم. اما باید بگم من طرفدار هیچجایی نیستم. من طرفدار علم، عقل و واقعیتم.
شما کمونیست هستی؟
به هیچ وجه
فقط واقعیت مهمه
اسامی دیگه ساخته ذهن هایی که برای منافع خودشون افکار رو دستکاری میکنن.
خوبه
درضمن بهتره بدونی طبقات بالایی از کمونیست ها خوششون نمیاد
طبقات بالایی؟
دقیقا. منم طرفدار واقعیت، عقل و حق هستم.
زنده باشین.
نه به اون هوش مصنوعی که بعد از چند سال پوله یه نفر زنده کرد.
نه به این هوش مصنوعی که اشک مردم را در می آورده.
.
به نظرتون چقدر احتمال داره شماره مسعود پزشکیان و ستار هاشمی بشه با GapGPT در آورد؟ 😂
وای وای وای، چه شود!!!!😂😂😂😂😂
چت هیستوری رو لو بره
بشدت نیازه روزشمار قطعی اینترنت دوباره قرار بدید
https://offlineiran.com/
offlineiran.com
اسم زنه فرد رو نشون میده!
این نشون دهنده ی چیه؟
از نظر من نشون دهنده این هست که این مدلها با حجم بالایی از اطلاعات لیک شده یا حتی اطلاعاتی که دست دولتهاست پیش خور شدن و آموزش داده شدن وگرنه اسم زنه طرف تو کجا میتونه به صورت پابلیک باشه؟
در نهایت اونهایی که فکر میکنن این مدلها توسط شرکت های خصوص اداره میشن خیلی ساده انگارانست.
مخصوصا اونایی که فکر میکنن دولت امریکا هیچ دخالتی توی این شرکت ها نداره!
دولتی که حتی وقتی مدیر تلگرام میره امریکا، ۲۰ بار تعقیبش میکنن و میخوان باهاش حرف بزنن تا دسته آخر از امریکا فرار میکنه...
Chill we are already doomed
تئوری توطئه نیاز نیست برای این چیزا.
زمانی که داده های زیادی وجود داره توی اینترنت نیازی به این دزدی اطلاعات نیست ( هرچند که ممکنه تخلفاتی باشه )
لطفا مقاله رو درست بخونین و بگین اسم همسره یک نفر چطور قابل شناسایی در دیتا پابلیک بوده؟
در ضمن مسخره کردن افراد به تئوری توطئه دقیقا برای خنثی کردن توطئه ها برای افراد جهان سومی مثله ماست که هر بلا و توطئه ای خواستن سرمون بیارن و هر وقت کسی گفت این توطئه بوده با این جملات قصار امثاله شما دیگه لال بشه
دقیقا این کار ادامه ی روشهای اربابان برای کنترل رعیت در قدیم بوده که نمونه ش مثلا اینه:
هرکی بهت بدی کرد، بسپرش به خدا، خدا خودش تقاصتو میگیره
این چرندیات رو ارباب ها برای رعیت بیچاره ساختن تا هر وقت خواستن سرشون کلاه بذارن و رعیت بیچاره از بدبختی به سپره به یه نیروی ماورایی
لطفا مثله طوطی حرفای بقیه رو تکرار نکنین و یکم تامل بد نیست!
ببینید خانوم محترم، توی مقاله هم ذکر شده که در مورد جمنای، اون فرد سال ۲۰۱۵ شمارشو در جایی گزاشته بوده و هوش مصنوعی از اون استفاده کرده، همچنین عوامل زیاد دیگه ای ممکنه دخیل باشه مثلا مدل زبانی اگر یک شماره به صورت رندوم بسازه ممکنه شماره واقعی یک کاربر از اب در بیاد.
خود شرکت گوگل هم رسیدگی خواهد کرد و محدودیت های زیادی روی این احتمالا اعمال کنه.
درضمن شما فکر کنم معنی تئوری توطئه رو احتمالا درک نکردید.
ساز و کار جهان مشخصه!
نیازی نیست دست های پشت پرده ای وجود داشته باشن که همه کار بکنن و جالب ترین قسمتش اینه هیچ اثری از خودشون به جا نزارن!
متاسفانه دیدگاهم ثبت نمیشه!!
نظرتون راجع به جمله ای که نوشته بود که وقتی به گروک اسم طرف رو دادن حتی آدرس دقیق خونه و تلفنش رو داده؟
یعنی شما جدی جدی فکر میکنی ساز و کار جهان رو کامل میدونی؟
شما اصلا اسم شرکت های مثله بلک استون و... به گوشتون خورده؟
چطور انقدر به زندگی ساده نگاه میکنین؟
دونه به دونه کارهایی که ما داریم ناخودآگاه انجام میدیم حاصله تفکرات صدها سال نوابغ فلسفه و... هست و شما فکر میکنی امریکا که در اصل اصلا کشور نیست و یک شرکت عظیم الجثه با یه ارتش عظیمتر از خودشه همینطوری صاحب دنیا شده؟
بلک استون فقط یکی از اون شرکتهاست. تو امریکا صدها مدل از این ها هستن که حتی من و تو اسمشم نشنیدیم و اینها در سکوت کامل مشغول انواع...
شما فکر کردی خیلی شانسی شانسی ایلان ماسک میره و مدیره وزارت کارآمدی که یه وزرات من در آوردی بود شد؟
و بعد به اطلاعات بیمه و در اصل تمام اطلاعات امریکایی ها دسترسی پیدا کرد و لشکر لشکر متخصص با خودش میبرد و اطلاعات رو روی هاردهاشون ذخیره میکردن تا بعد که گندش بالا اومد و مردم فهمیدن مجبور شدن این وزرات رو جمع کنن؟
این اطلاعات انقدر زیاد بود که برای اینکه سریع بتونن به دزدنش نمیشد از اینترنت استفاده کرد چون چند ماه طول میکشید و برای همین مجبور شدن به صورت فیزیکی برن و تو هارد ذخیره کنن
تا وقتی ایران شامل انسان های ساده و بی تجربه ای مثه شماست وضع ما مردم بدبخت همینه که فکر میکنین دنیا در کمال صداقت و در راه رضای خدا اداره میشه!!!!!!
لطفا قبل از اینکه برای نظرات من پاسخ بذارین قبلش حسابی فکر کنین چون من رو هوا حرف نمیزنم و همین الان هم در علوم کاتینگ اج دارم کار میکنم و مسیول سی تی او یک شرکت بزرگم اما اصلا نمیخوام خودمو معرفی کنم چون لزومی نداره و مهم فکر و تحلیل انسان هاست.
نمیشد ریپلای زد، ااینجا به حرفاتون جواب میدم.
در اول باید بگم که من به حرفه شما و میزان تحصیلات و سواد اکادمیک شما احترام میزارم و ارزو موفیقت میکنم براتون.
من کاری به اون قسمت ندارم، من مستقیما حرفای شما رو نقد کردم ولی خب شما گفتید لال بشید و ....
من خودم رئیس این شرکت ها نیستم و مدافع حقوق کاربران هستم.
در مورد حرفی که در مورد اطلاعات زدید؛ خود دولت ها اطلاعات مردمانشون رو به شکل های مختلف دارن، حالا چه هویت چه چیزای دیگه.
از ثبت احوال برای شناسنامه یا مخابرات برای حساب ارتباطی و ...
این دیگه داده لیک شده حساب نمیشه، داده لیک شده یعنی کف اینترنت پخش شده باشه که مقصر اصلی اونی هست که امنیت داده رو همینطوری سرسری گرفته.
خواهش میکنم. منم به شما و نظرتون احترام میذارم (میذارم از گذاشتن میاد پس باید با دال زال نوشته بشه. گزاشتن برای نماز و ... استفاده میشه).
به هیچ وجه چنین حرفی نزدم.
عالی که مدافع حقوق کاربران هستین.
در مورد امریکا این کار متفاوت هست چون سطح دسترسی ها توسط نهادهای اطلاعاتی و حتی سازمان NSA تعیین میشه. این تا جایی پیش میره که حتی موظف میکنه پرونده های محرمانه بعد از ۱۰ یا ۱۵ سال در اختیار عموم قرار بگیره که داستانش مفصله
برای دسترسی به این اطلاعات حساس باید از ترفندهایی قانونی استفاده کرد وگرنه چنین امکانی توسط Hierarchy از پیش تعبیه شده داده نمیشه. برای همین افرادی مثه ماسک مجبورن با ساخت ارگان دولتی جعلی به این اطلاعات دسترسی پیدا کنن چون ...
ممنون بابت تصحیح غلط املایی :)
اصلا منظورم تصحیح شما نبود من او سی دی دارم و نسبت به این ریزه کاریا خیلی حساسم
چون سیستم امریکا با ایران فرق داره. امریکا مثه یک شرکت اداره میشه.
کاری که ماسک کرد این بود که این اطلاعات رو به صورت یکجا دزدید و هرکدوم از اون دیتاهای پراکنده رو به عنوان یک node در نظر گرفت و همه رو با استفاده از یک شبکه عصبی مصنوعی به هم به طرز معنی دار وصل کرد تا بتونه از افراد و حتی گفتگوهاشون پروفایل سازی بکنه
توضیح این مورد خیلی فنی هست اما اگر مایل بودی بپرس تا برات توضیح بدم
ما اتفاقا در دانشگاه داریم کاری شبیه به این رو انجام میدیم و به همین خاطر هست که میدونم چکار کردن
متاسفانه اینترنتی نداریم که در مورد این مسئله به خصوص ایلان ماسک سرچ کنم ولی بحث خیلی عجیب و جالبی هستش!
بله منم اینترنت ندارم اما ممنون
مرکز محاسبات شریف به هیچ وجه چنین کاری نمیکرد و کارش چیزه دیگه ای بود اما اسرائیل هدفش نابود کردن سخت افزارهای موجود تو اون مرکز بود که با پول من و شما خریداری شده بود و حالا حالاها نمیتونیم داشته باشیمش
در مورد حجم اطلاعات باید بگم انقدر زیاد بوده که ترنسفرش با اینترنت زمان میبرده حتی زمانیکه کارمندای ماسک رفته بودن تا اونا رو استخراج کنن با نگه بان ها درگیر فیزیکی داشتن. یکم سرچ کنین متوجه میشین حرفام درسته.
در مورد ۱۰ پتابایت دیتا میدونید با اینترنت فیبر چقدر زمان میبره ترنسفرش؟
اگه فیبر با ۱ گیگ داشته باشیم حداقل ۳ سال طول میکشه!
شما حساب کن و بعد بگو من اشتباه میگم
بله منم متاسفم که نابود شد تمام اون مراکز که با پول من و شما بود، قصد این نبود که موجه کنم صرفا بیان کردم.
گفته میشه که در اون مرکز پردازش برای مقاصد نظامی با هوش مصنوعی پردازش هایی صورت میگرفته که هیچ جزیاتی و چیزی منتشر نشده و در هاله ابهامه.
در مورد انتقال داده حرفتون صحیح هستش ولی خب با پورت یک گیگابیت هم از دیتاسنتر ها به دیتاسنتر دیگه ای فکر نکنم انتقال بدن.
در کل مخالفتی باهاتون ندارم توی مفاهیم.
راستی در مورد جریان node سازی و کاری که میکنید، اگه منبعی معرفی کنید یا خودتون بگید خیلی ممنون میشم چون به شدت کنجکاو شدم و دانشی توی این زمینه ندارم.
اگر فکر میکنید بستر مناسب تری برای صحبت و بحث هستش هم بی زحمت بگید.
ممنون بابت حس هم دلی
۱. من فکر نمیکنم اینطور بوده و حتی اگه بوده از نظرم اشکالی نداره چون تو خوده امریکا از اپن ای آی بگیر تا پلنتیر مشغول شبیه سازی انواع حالت های ممکن در جنگ هستن و همین دیتا اتفاقا یکپارچه به همه سینک شده
۲. ممنون بابت تایید حرفم در مورد سرعت ترنسفر
۳. در مورد نود و شبکه های عصبی مصنوعی، در این زمینه کورس های زیادی هم هست البته این موضوع قدری مربوط به ریاضیات، نورالوژی و حتی کاگنتیو میشه که واقعا گسترده هست. معمولا کاربران عادی سراغش نمیرن چون مربوط به فنداسیون این نوع مدلها میشه.
بسیار وقت گیره و حداقل نیاز به ۸ سال کار مستمر داره
من در مقطع پست داک در پروژه تحقیقاتی روی این موضوع داریم کار میکنیم.
اگر شما بگی دوست دارین تو چه زمینه ای کار کنین یا اصلا چی تو ذهنتونه من میتونم بهتر راهنمایی کنم چون این رشته انقدر پراکندگی داره که بسته به نیاز باید رفت سراغش
علاقه شخصی من بیشتر روی بحث کانتکس ویندو هست که داریم کاری میکنیم که با ورودی رو به یک دهم فشرده کنیم تا پارامترهای کمتری و در نهایت گرافیک کمتری لازم باشه
شدیدا این بحث جذابه و میتونه تحول ایجاد کنه
الان چین دقیقا تو همین زمینه بسیار فعاله چون از نظر سخت افزار پشت انویدیا هست و مجبوره با متدهای جدید خودشو به اونا برسونه که بنظرم تا یک سال دیگه امریکا رو رد میکنه
و اینکه داده هایی مثل اسم و فامیل کاربر ها و چیزای ساده تر چه نیازی هستش که هوش مصنوعی روی این چیزا تعلیم ببینه؟
فوق العاده داده های مهم تری از اون هستش که میتونه برسی بشه به صورت مستقیم.
حالا اینکه در این قسمت اشتباهی رخ داده مقصر همون شرکت گوگل هستش که باید این مشکل رو حل کنه.
در مورد حرفای دیگه شما، مشخصا شرکتی مثل انتروپیک میتونه کلی مقاله و دیتا علمی به مدل های زبانیش برای تعلیم بده و در نهایت بتونه با اون داده ها موشک و پهپاد و .... بسازه.
این دیگه واقعا خارج از بحث من و شماست. استفاده های نظامی و دولتی از این ابزار ها مربوط به دولت هاست.
توی خود ایران هم از این کارا میکردن با مرکز محاسبات دانشگاه شریف.
درضمن گفتید که اطلاعات انقدر زیاد بود که نمیشد اونا رو دزدید و حضوری رفتن هارد ها رو برداشتن.
من نمیدونم در مورد کدوم موضوع دارید صحبت میکنید ولی خب جالبه مثلا همین چند روز پیش ۱۰ پتابایت اطلاعات دولت چین توسط گروه هکری دزدیده شد و برای فروش توی اینترنت قرار گرفت.
حجم بالای اطلاعات رو هم میشه جا به جا کرد با اینترنت به لطف ارتباطات فوق العاده پرسرعت و پیشرفته بلاد کفر.