اعلام خط قرمزهای جدید آنتروپیک | از این به بعد کلاود را اذیت نکنید!

شرکت آنتروپیک در نسخه جدید، سیاست استفاده از هوش مصنوعی کلاود، آزار مکرر این چت‌بات با هدف سرگرمی را ممنوع کرده است.

همشهری آنلاین، فرخنده رفائی: اگر از پاسخ اشتباه یک چت‌بات عصبانی شوید و با لحنی تند به آن اعتراض کنید، قرار نیست به‌خاطر این رفتار حساب کاربری‌تان را از دست بدهید. اما آنتروپیک در سیاست‌های جدید خود مرزی میان انتقاد و مخالفت با هوش مصنوعی و آزار عمدی و مکرر آن ترسیم کرده است؛ مرزی که بخشی از قواعد تازه استفاده از کلاود را تشکیل می‌دهد.

چه زمانی بدرفتاری با کلاود ممنوع می‌شود؟

به گزارش دیجیتال ترندز، آنتروپیک در سیاست استفاده خود که از ۱۲ نوامبر ۲۰۲۶ اجرایی می‌شود، آزار مکرر کلاود با هدف آزار دادن آن را ممنوع کرده است. این محدودیت به معنای ممنوعیت بحث، انتقاد یا حتی استفاده از لحن تند در گفت‌وگو با هوش مصنوعی نیست.

کاربرانی که پاسخ اشتباه کلاود را زیر سؤال می‌برند، عملکرد آن را برای اهداف پژوهشی آزمایش می‌کنند یا در قالب داستان‌نویسی به سراغ موقعیت‌های تاریک و خشونت‌آمیز می‌روند، مشمول این ممنوعیت نمی‌شوند. آنچه آنتروپیک هدف گرفته، رفتارهایی است که در آنها کاربر به‌طور مکرر و صرفا برای آزار دادن چت‌بات، با آن بدرفتاری می‌کند.

کلاود هم از قبل راهی برای مواجهه با چنین رفتارهایی داشته است. اگر کاربری در وب‌سایت Claude.ai یا ابزار برنامه‌نویسی Claude Code به آزار و رفتار توهین‌آمیز ادامه دهد، این هوش مصنوعی می‌تواند مکالمه را خاتمه دهد؛ روشی که به گفته آنتروپیک، همچنان راهکار اصلی شرکت برای مدیریت این وضعیت خواهد بود.

قوانین جدید فقط به رفتار کاربران محدود نمی‌شوند

بخش دیگری از تغییرات سیاست استفاده کلاود به جلوگیری از سوءاستفاده‌های سیاسی و اجتماعی مربوط است. استفاده از این هوش مصنوعی برای اداره حساب‌های جعلی یا رسانه‌های خبری ساختگی با هدف جهت‌دهی به افکار عمومی ممنوع شده است؛ محدودیتی که هم فعالیت‌های سیاسی و هم کسب‌وکارها را در بر می‌گیرد.

قواعد مربوط به انتخابات نیز صریح‌تر شده‌اند. استفاده از کلاود برای فریب رأی‌دهندگان، جا زدن خود به‌جای نامزدها یا کارکنان انتخاباتی و منصرف کردن مردم از حضور در انتخابات مجاز نیست. در مقابل، آنتروپیک ممنوعیت گسترده پیشین درباره هدف‌گیری شخصی‌سازی‌شده در کارزارهای سیاسی را کنار گذاشته است؛ زیرا این محدودیت می‌توانست فعالیت‌های مفیدی مانند تهیه راهنمای رأی‌گیری به زبان‌های مختلف را نیز مختل کند. بااین‌حال، فریب رأی‌دهندگان یا استفاده از اطلاعات شخصی آنها برای هدف‌گیری همچنان ممنوع است.

در حوزه امنیت نیز کلاود نباید در ساخت کد یا تجهیزات مورد استفاده برای تسلیحات، از جمله نصب سلاح روی پهپادها، کمک کند. نظارت بر افراد بدون رضایت آنها و کمک به پلیس برای شناسایی افرادی که باید هدف اقدامات قانونی قرار بگیرند نیز محدود شده است؛ هرچند پژوهش حقوقی، روزنامه‌نگاری و بررسی تقلب همچنان مجاز است.

بیشتر بخوانید:

• سم آلتمن: با هوش مصنوعی مودبانه صحبت نکنید!
• ادعای جنجالی ایلان ماسک درباره آینده هوش مصنوعی

آیا کاربران عادی باید نگران باشند؟

برای بیشتر کاربران، این تغییرات به معنای محدودیت تازه‌ای در استفاده روزمره از کلاود نیست. مخالفت با پاسخ‌های هوش مصنوعی، درخواست اصلاح اشتباهات و حتی ابراز نارضایتی از عملکرد آن همچنان امکان‌پذیر است.

بااین‌حال، آنتروپیک درباره استفاده از کلاود برای تصمیم‌گیری‌های حساس در حوزه سلامت، امور مالی و مسائل حقوقی نیز تأکید کرده است که امکان بررسی و اصلاح توصیه‌های هوش مصنوعی توسط فردی واجد صلاحیت فراهم باشد و افراد متأثر از این تصمیم‌ها بدانند که هوش مصنوعی در فرایند تصمیم‌گیری نقش داشته است.

در مجموع، سیاست جدید بیش از آنکه کاربران عادی را هدف بگیرد، تلاش می‌کند مرزهای استفاده مسئولانه از هوش مصنوعی را روشن‌تر کند؛ از جلوگیری از سوءاستفاده‌های سیاسی و امنیتی گرفته تا محدود کردن آزار عمدی و مکرر چت‌بات.

کد خبر 1075206 منبع: همشهری آنلاین

• انقلاب اتمی در کشاورزی ایران

• اعلام خط قرمزهای جدید آنتروپیک | از این به بعد کلاود را اذیت نکنید!

• گوگل این ابزار را برای تشخیص محتوای هوش مصنوعی معرفی کرد

• خط و نشان برای رقیب چینی | متا تبلیغات تیک‌تاک را در پلتفرم‌هایش ممنوع کرد

• نماز جمعه تهران به امامت حجت‌الاسلام حاج علی‌اکبری

• جلسه فوری وزیر، تاج و تاجرنیا در خصوص آسانی؛ شوک محرومیت بیخ گوش استقلال | دو مشاور حقوقی آبی ها را ترساندند

• وضعیت تیم ملی کشتی هنگام ورود به آمریکا | نمایندگان ایران در سازمان ملل به فرودگاه رفتند

• زمین در خطر حمله شهاب سنگهاست؟

• بازگشت ناو آبراهام لینکلن به آمریکا | ببینید

• چرا بیرانوند پس از شب جنجالی یادگار به محل تمرین رفت؟

• برخورد عجیب کشتی مسافربری با عمارت تاریخی ۲۰۰ ساله | ببینید

• آماده سازی آمریکا برای از سرگیری جنگ علیه ایران | ترامپ دو دل است

• اولین واکنش نکونام به اخراج بیرانوند | خداروشکر یکی یکی حرف‌هایم درست از آب درآمد

• عقب‌نشینی ترامپ پس از گاف بزرگ | نگفتم ایران لس‌آنجلس و سن‌دیگو را بمباران کند!

• در برابر تهاجمات آمریکا در کنار ایران هستیم

• جلسه فوری وزیر، تاج و تاجرنیا در خصوص آسانی؛ شوک محرومیت بیخ گوش استقلال | دو مشاور حقوقی آبی ها را ترساندند

• اعزام تجهیزات نظامی جدید آمریکا به منطقه

• پیشنهاد غیر منتظره به آلمان؛ با هم یک جت جنگنده بسازیم!

• پخش زنده تیرباران افسر سابق ارتش آمریکا + عکس

• بختیاری‌زاده با واقعیت تلخ آسانی کنار آمد | دو گزینه جانشینی در استقلال

• حتی پیگیری حملات ایران دشوار شده است | تاکتیک ایران در تنگه هرمزتغییر کرد