OpenAI מממנת מחקר באוניברסיטת דיוק לפיתוח אלגוריתמים לשיפוט מוסרי של בינה מלאכותית

מענק משמעותי למחקר מוסריות בינה מלאכותית

OpenAI, החברה המובילה בתחום הבינה המלאכותית, העניקה מענק של מיליון דולר, המתפרס על פני שלוש שנים, לחוקרים מאוניברסיטת דיוק עבור פרויקט בשם “Research AI Morality”. מטרת הפרויקט היא לפתח אלגוריתמים שיכולים לחזות שיפוטים מוסריים אנושיים במצבים מורכבים בתחומים כמו רפואה, משפטים ועסקים. מקור: טק קראנץ’.

החוקרים המובילים את הפרויקט

הפרויקט מובל על ידי פרופסור וולטר סינוט-ארמסטרונג, מומחה לאתיקה מעשית, וד”ר ג’נה בורג. השניים פרסמו בעבר מחקרים וספרים בנושא הפוטנציאל של בינה מלאכותית לשמש כ”GPS מוסרי” המסייע לבני אדם בקבלת החלטות מוסריות. בין היתר, הם פיתחו אלגוריתם המיועד לסייע בהחלטות על הקצאת תרומות כליה, ובחנו מצבים בהם אנשים מעדיפים שבינה מלאכותית תקבל החלטות מוסריות. מקור: טק קראנץ’.

האתגרים בפיתוח בינה מלאכותית מוסרית

פיתוח אלגוריתמים שיכולים לחזות שיפוטים מוסריים אנושיים מציב אתגרים משמעותיים. ניסיונות קודמים, כמו פרויקט “Ask Delphi” של מכון אלן לבינה מלאכותית, הראו כי מערכות בינה מלאכותית עלולות לשקף הטיות תרבותיות ולהפיק תשובות לא עקביות או לא מוסריות. הסיבה לכך היא שהמודלים מתבססים על נתונים מהאינטרנט, המשקפים לעיתים קרובות ערכים של מדינות מערביות ומתועשות, מה שמוביל להטיות בתשובות. מקור: טק קראנץ’.

המורכבות של מוסריות אנושית

מוסריות היא מושג מורכב וסובייקטיבי, המשתנה בין תרבויות ופרטים. פילוסופים דנים במגוון תיאוריות אתיות כבר אלפי שנים, ואין מסגרת מוסכמת אחת. לכן, פיתוח אלגוריתם שיכול לחזות שיפוטים מוסריים אנושיים חייב לקחת בחשבון את המורכבות והגיוון של המוסריות האנושית. מקור: טק קראנץ’.

השלכות המחקר על עתיד הבינה המלאכותית

המחקר באוניברסיטת דיוק עשוי להשפיע על האופן שבו מערכות בינה מלאכותית משתלבות בחיי היומיום, במיוחד בתחומים הדורשים קבלת החלטות מוסריות מורכבות. אם יצליחו החוקרים לפתח אלגוריתמים אמינים לחיזוי שיפוטים מוסריים, הדבר עשוי להוביל לשימוש נרחב יותר בבינה מלאכותית בקבלת החלטות בתחומים כמו רפואה, משפטים ועסקים.