Ynet
Top story
קיללתם את הבינה המלאכותית? אתם עלולים להיחסם לצמיתות
ענקית הבינה המלאכותית אנת'רופיק אוסרת על משתמשים להתעלל בצ'אטבוט קלוד, ובמקרים קיצוניים אף עלולה לחסום אותם לצמיתות. בחברה חוששים שהמודלים עשויים לפתח תודעה ורגשות, אך מומחים טוענים שמאחורי ההחלטה עומדים גם שיקולי בטיחות

בתחילת אוקטובר האחרון, הרחק מהכותרות, עדכנה ענקית הבינה המלאכותית אנת'רופיק את מדיניות השימוש בקלוד. בנוסף לאיסור לעשות בו שימוש לצורך יצירת נשק ביולוגי או מכירת סמים בלתי חוקיים, החברה הוסיפה איסור חדש: "אין לעסוק בהתנהגות מתמשכת ומיותרת של התעללות או אכזריות כלפי המודלים שלנו".
למדיניות החדשה הזו השלכות מעשיות: כבר בשנה שעברה תכנתה אנת'רופיק את קלוד לסיים שיחות עם משתמשים "מזיקים או פוגעניים מתמידים", אך כעת, תחת המדיניות החדשה, במקרים קיצוניים משתמשים עלולים גם להיחסם לצמיתות משימוש במערכות ה-AI של החברה.
לא כולם מתרשמים מה"מוסריות" הזו המדיניות החדשה, שמאפיינת את הגישה העקרונית של אנת'רופיק, החוששת כי המודל שפיתחה הוא בעל תודעה הקרובה לתודעה האנושית, כולל רגשות, התקבלה בלעג אצל חלק מהמתחרים. מנכ"ל חטיבת ה-AI של מיקרוסופט, מוסטפא סולימאן, למשל, הגיב עם אימוג'י של פנים נמסות.
לעומתו, היזם המיליארדר אילון מאסק כתב ברשת X, כי המדיניות של אנת'רופיק היא "הצעד הנכון".