השבוע הופיעו פרסומים לפיהם הגענו לבינה מלאכותית כללית שחכמה מבני אדם (AGI). נשיא OpenAI אמר "ברוכים הבאים לעידן ה-AGI". ב-ynet הכתירו: "עידן ה-AGI כבר כאן" (קישור).
אבל אז קראתי מה אומרים האנשים שבנו מבחן האינטליגנציה ולא כך המצב. חוקרים מובילים מתנגדים נחרצות לקביעה של OpenAI (קישור).
אז האם הגענו לרגע הזה שבו AI חכם יותר מבני אדם?
אני לא יודע.
אבל אולי זאת לא השאלה הנכונה.
בעדכון הקודם כתבתי שהסימן האמיתי של הסינגולריות הוא לא ציון במבחן. הוא הרגע שבו אנחנו, בני האדם, נעדיף את תשובת המכונה על פני תשובת מומחים. בשאלות שחשובות לנו באמת.
לכן בניתי את אתגר הסינגולריות. מומחה מול AI. שתי תשובות, בלי שמות. אתם בוחרים.
בסבב הקודם ה-AI הפסיד. 59% העדיפו את התשובה של המומחה (קישור). כאשר דיברתי עם המומחה הבנתי דבר נוסף. ה-AI ניסה לרצות. הוא נתן לעובד את מה שהוא רצה לשמוע. תשובה נעימה. אבל תשובה שמייצרת סכנה עתידית.
זה הזכיר לי משהו שקרה לי לאחרונה. חברים טובים אמרו לי אמת שלא היה לי נעים לשמוע. אני לא יודע להתלבש. חוש הטעם שלי איום ונורא. ביום הולדתי האחרון הם לקחו אותי לחדש את המלתחה.
לא הייתי צריך עוד מחמאה. הייתי צריך אנשים שאוהבים אותי מספיק כדי להגיד לי את האמת. ואחר כך לבוא איתי לחנות (סבלתי מכל רגע אבל כנראה שזה היה חשוב).
בתקופה הזאת AI הוא אולי קצת כמו מזון תעשייתי. טעים. נוח.
אבל לעיתים קרובות הוא לא בריא לנו.
בנימה אישית, כמי שעוסק בנוער בסיכוי בעמותת יש מצב, אני לא יכול שלא לחשוב על הנערים והנערות שצריכים את מה שאני קיבלתי ביום ההולדת. מבוגר שאוהב אותם מספיק כדי להגיד את האמת. ולהישאר. רוצים לעשות מעשה טוב לשנה החדשה? מוזמנים לתרום לעמותה בקישור הזה.