פרק 22 - בינה מלאכותית או אנשים בשר ודם? | ד"ר קותי שוהם, ראש היחידה ללימודים כלליים

דובר 1: אחד הכיוונים המעניינים שהבינה המלאכותית הולכת אליו הוא הניסיון להידמות לבני-האדם עד התנהגות כמעט אנושית ולעיתים מטרידה אבל האם אותו רובוט מועשר בARTAFICIAL INTELLIGENCE AI יכול להחליף אדם בקשר משמעותי לחיים אם נוכל לקיים עם הבינה המלאכותית מערכת יחסים או אולי אפילו לתכנת ולייצר לנו את הזוגיות המושלמת שתמיד חלמנו עליה

דובר 2: אפקה טוק הפודקאסט של מכללת אפקה להנדסה בתל אביב מדברים הנדסה

דובר 1: אנחנו כאן עם ד"ר קותי שוהם ראש היחידה ללימודים כלליים באפקה המכללה האקדמית להנדסה בתל אביב שאומר שמהנדסים שלומדים אצלו ייצרו רובוטים אבל לעולם לא יהיו כאלה בעצמם שלום

דובר 2: שלום רב

דובר 1: תספר לי על עצמך איך הגעת לתחום הזה

דובר 2: אני דוקטור לפילוסופיה ולמדתי אלקטרוניקה בעתודה לימדתי אלקטרוניקה המון שנים בצבא ואחר כך כשהגעתי לשלב שבו רציתי ללמוד לימודים אקדמיים האמת שבכלל למדתי מנהל עסקים בהתחלה תואר ראלי מימון וכו' אבל תמיד הרגשתי שמשהו חסר לי ובאיזשהו שלב בגיל 30 אמרתי לעצמי או-קיי זה הזמן לשינוי לפני שזה יהיה מאוחר מדי והלכתי ללמוד פילוסופיה תואר ראשון שני ושלישי כיוון

דובר 1: שונה לגמרי זאת אומרת מאימני להומני ממשהו פרקטי למשהו יותר רוחני נפשי תרבותי שמתי מאצלך מהרכיבים נמאס לך מה זה לא

דובר 2:             האמת היא שגם כשלומדים ומלמדים אלקטרוניקה אז עושים בהרבה מאוד מובנים פילוסופיה פילוסופיה של המתמטיקה הפילוסופי של חוקי הטבע כשאתה לומד פיזיקה כשאתה עושה פילוסופיה כמו שצריך אז אתה מבין שזה המקצוע הכי פרקטי בעולם הרי בדרך כלל אומרים מה מה אפשר לעשות עם פילוסופיה אז למעשה עם פילוסופיה עושים הכל כלומר אדם נולד גדל בתוך משפחה בתוך תרבות הסביבה החברתית כלכלית מסוימת ועולם המושגים שלו מתפתח בדרך כלל מתוך האינטראקציה החברתית של המעגלים השונים שסביבו ואז מה שקורה ההתפתחות הזאתי היא לא תלויה בנו זה קורה לנו בלי שאנחנו שמים לב והרבה מאוד פעמים אני מכנה את התחושה הזאת של מישהו שנלכד בתוך מערכת מושגים הכלא של המושגים ומה שהפילוסופיה עושה היא פותחת לך את שערי הכלא ומאפשרת לך לחשוב מחדש על המושגים שמקבל כמובן מאליו לדוגמה אהבה לדוגמה הזוגיות לדוגמה הצלחה ועוד הרבה מושגים מתחומים שונים דוגמא אני המושג של אני אז זה נראה כאילו שזה שינוי משמעותי אבל לא בשבילי זה אבולוציה של התפתחות

דובר 1: אישית טוב אז בוא נדבר על הבינה המלאכותית שמדמה בני אדם מה איך הדבר הזה עובד תראה

דובר 2: בדרך כלל כשאנחנו מדברים על בינה מלאכותית יש כאן מושג זה של שתי מילים המילה בינה והמילה מלאכותית אז בואו נתייחס לבינה הבינה משמעה שמדובר במערכת לומדת במידה רבה של אוטונומיות שלמידה

דובר 1: ז"א לא מאגר מידע שניגשים לה אתה יודע לוח הכפל 2 כפול 2 הולכים לטבלה 4 אלא משהו שהם הסיק מסקנות לומד מתקדם מעדכן את הנתונים ואת המסקנות נכון

דובר 2: בדיוק זאת אומרת יש לו איזושהי מערכת של למידה שבה הוא יכול לאסוף נתונים להסיק מהן מסקנות לראות אולי מה חסר וללכת לאסוף נתונים נוספים ולהתקדם ככה ולהתפתח אפילו יכולות להיות לו עקרונות פעולה כאלה כלליים ז"א הקטע של הבינה מאוד מדמה את תהליכי למידה שלנו ואולי דווקא זה מה שמבלבל כי צריך לזכור שתמיד מדובר בבינה שהיא מלאכותית כלומר בבינה שהיא עובדת על פי איזשהו אלגוריתם שגם הוא אלגוריתם מתפתח הוא עדיין אלגוריתם ולכן היא תמיד תהיה מלאכותית זה תמיד צריך לזכור

דובר 1: אז אנחנו מסתכלים אל הבינה ואומרים היא מלאכותית אנחנו רואים בערך מה ההוראות הראשוניות שניתנו לה ועל איזה מידע היא מתבססת אבל אם נסתכל פילוסופית על הבינה האנושית אז גם יש אלגוריתם אנחנו פשוט לא מבינים אותו

דובר 2: נכון נכון אולי ניקח דוגמה לפילוסוף שבמובן מסוים מתייחס לדברים האלה מאז המהפכה המדעית במאה ה-17 המדע במובן מסוים הופך לאיום על המין האנושי משום שמה שהוא רוצה לעשות זה ללכוד את הדבר הזה שנקרא אדם אז בכלכלה קוראים לו הומו אקונומיקוס ויש לו כללי פעולה רציונליים יעילים כלכליים בפסיכולוגיה נגיד במדעי המוח בסדר הנוירופסיכולוגיה מספרים לנו על מופרעים או פעילות או דפוסים מוחיים שהם קורלטיבי לדיווחים שלנו על אהבה על עצב על דיכאון ז"א המדע מחפש להסביר את האדם גם מתוך סקרנות ועניין מדעי וגם כמובן מתוך רצון לסייע זאת אומרת אם אנחנו נמצא פתרונות ז"א המצאת המנגנונים זה אדם פועל על-פיהם אנחנו גם נמצא פתרונות אלה שבאיזשהו שלב וקורה משהו מעניין שבו אנחנו לאט-לאט מחפצנים את האדם

דובר 1: כלומר מנסים למצוא כפתור הפעלה בדיוק כפתורים שונים בדיוק תגביר שמחה תוריד דיכאון

דובר 2: בדיוק אז אנחנו מתייחסים לאדם כאל חפץ כבעל מאפיינים שאנחנו מחפשים אותם איזושהי פונקציה של היות אדם כנגד הנטייה הזאת של המדע התפתח זרם בהיסטוריה של הרעיונות של פילוסופיה שנקרא אקזיסטנציאליזם מש"ה מובילים והיה מרכזיים בזרם הזה אבל הפילוסוף שאני רוצה להביא כדוגמה כי הוא ניסח את זה בצורה מאוד מאוד ברורה ניסח את הרעיון בו בצורה מאוד ברורה הוא ז'אן פול סארטר סארטר כותב בסוף שנות ה-40 כותב המון אבל אחד המאמרים הנחמדים לקריאה שכל אחד יכול לקרוא יקרא האקזיסטנציאליזם הוא הומניזם שבו הוא טוען שאם אנחנו לוקחים ברצינות את הרעיון של חופש בחירה אז אנחנו חייבים להגיע למסקנה שלאדם אין טבע כלומר אין פונקציה אין מנגנון מפעיל כי להגיד שלאדם יש חופש בחירה זה אומר שהם גורמים שקודמים ושמתאימים באופן סיבתי הכרחי לוגית או אחרת לוגית או הפיזיקלית את האדם לבחור בצורה מסוימת זה לא אומר שאין נטיות זה לא אומר שאין נסיבות זה לא אומר שאין השפעות אבל ביסוד במהות האדם הוא קיום שקודם למהות להבדיל בחפצים שהם מהות שקודמת לקיום עכשיו ברגע שאתה מבין הוא מוכן לקבל את הרעיון של האדם יש חופש בחירה את הדבר הפשוט הזה כשיש בחופש בחירה אז אתה בעצם משתחרר מהרעיון שיהיה אפשר אי פעם ללכוד את האדם בפונקציה מסוימת או בהסבר מסוים סגור ושיש בו איזשהו משהו שהוא נעלם איזשהו ניצוץ נעלם איזשהו עניין נעלם שלעולם לא תוכל לתאר אותו במונחים חיוביים

דובר 1: וזה ההבדל בין בינה מלאכותית לבין בינה האנושית בדיוק

דובר 2: הבינה המלאכותית מתחילה מפונקציה כלומר מישהו שמתכנת אותה ואז היא יודעת להתפתח זה בסדר אבל גם ההתפתחות שלה היא תלויה בנתונים שהיא מקבלת לדוגמה ז"א היא מנגנון אמנם לומד אמנם מתפתח אבל יש לו לפחות במקור יש לו אלגוריתם אם אנחנו מקבלים שוב את הרעיון של חופש הבחירה לא יכול להיות לנו אלגוריתם ולמעשה זה מה שאנחנו אוהבים בלהיות עם בני אדם אבל

דובר 1: אם אני אסתכל על בני אדם באופן מאד כוללניים אז יש להם חומרה די דומה יש שוני קצת בצבעים במבנה אבל בגדול יש חומרה ויש תוכנה יש שיטה עם צורה שהמוח שלנו מחובת בני-האדם פיתחו שפות במקומות שונים בעולם שהם נפרדים בני-האדם פיתחו כלים במקומות שונים זאת אומרת כן היה איזה משהו שהוביל אותם לדברים דומים לחשיבה דומה לסוג דומה של התנהלות העובדה שיש פילוסופיה היא כי אנשים חשבו איך הם חושבים אולי אנחנו פה מגיעים לשאלה קצת מטפיזית על האם יש לנו מתכנת ומה האלגוריתם ומה הוא התכוון ומה עשינו עם זה

דובר 2: אולי נעשה את זה טיפה רחב יותר כשמסתכלים על ההיסטוריה של הרעיונות אפשר לראות שיש 3 נושאים מרכזיים שמעניינים אותנו והם 3 נושאים שבעצם מכוונים את החוויה האנושית הנושא הראשון הוא האני מה אנחנו יכולים להגיד על עצמנו זה החוויה הסובייקטיבית היא מאוד מיידית מאוד ראשונית כולנו חווים את עצמנו אבל אנחנו חווים את עצמנו בעולם ואז הנושא שאנחנו מדברים עליו ביתו של הרעיונות זה מה יש בעולם מה היא האמת מהם חוקי הטבע והנושא השלישי הוא איך קוראים לו בהיסטוריה של רעיונות אלוהים אבל הם קראו לו הנעלם הדבר הזה שאני אומר לעצמי רגע יכול להיות שם גם אם אין לי את החושים לתפוס את זה זה יכול להיות שם גם אם אין לי את הלוגיקה להבין את זה אלוהים זה הדבר שמזיז את כולנו כלומר אני לא מדבר על האלוהים במובן הדתי כששף מכין ארוחה אז המנה הבאה היא האלוהים שלא כשמלחים להלחין שיר או זמר מבצע שיר אז אז הביצוע המושלם הוא האלוהים שלו אותו דבר מהנדס כשמהנדס חושב על זה איזשהו פתרון טכנולוגי שעוד לא היה שיפתור איזושהי בעיה אז הפתרון הטכנולוגי הזה הוא אלוהים שלו אז

דובר 1: אולי היכולת של בינה מלאכותית להגיע לרמה של אדם מוגבלת בזה שכמו שאנחנו לא מבינים את מי שיצר אותנו אז ההאלגוריתם לא מבין את מי שיצר אותו הבינה המלאכותית לא יכולה להבין את מי שיצר אותה כי היא מוגבלת למה שהוא יודע להסביר למה הוא לא יודע להסביר את עצמו

דובר 2: נכון נכון ז"א בשביל הבינה המלאכותית אנחנו נהיה האלוהים שלך ואנחנו לא לדוגמה בזוגיות לא היינו רוצים שבן הזוג שלנו אני מתאר לעצמי כן יהיה רובוט אמנם רובוט מתוחכם אמנם רובוט שלומד ומתפתח אבל רובוט זאת אומרת נמצא בתוך איזושהי קופסה שהונעו לא יכול לפרוץ את גבולותיה במובן שתיארתי קודם כן זה שהוא לומד ומתפתח וכו' זה לא משהו שהוא מפרק ומתכנן את עצמו מחדש לפחות ככה נראה לי לגבי הבינה המלאכותית אנחנו בני אדם רוצים שבן הזוג שלנו לדוגמה או בת-הזוג שלנו יהיה להם את הניצוץ האלוהי הזה כלומר את הנעלם שוב לא במונחים דתיים את הקסם הזה שאתה אומר יש שם משהו שהוא מעבר לדפוסי התנהגות לאופי לגוף בוודאי זאת אומרת שיהיה שם משהו שאני אוהב גם בלי לדעת להסביר כשיש פונקציה אתה יודע להסביר מה אתה אוהב אבל המקומות שבהם מעניין אותנו לדעתי והמקומות שבהם אנחנו מתפתחים ונמשכים אליהם למקומות שבהם יש אלוהים כלומר מקום שבו אני יש משהו שאני לא יודע להסביר אני חושב שפה הבינה המלאכותית תהיה פרטנר נהדרים אם אני זקוק עכשיו למישהו שיהיה איתי ויעזור לי וייתן לי עד עכשיו לתקן את האופנוע או מישהו שישמור על אמא שלי כשהיא לבד בלילה או ילווה את הבת שלי למסיבת חברים בכיתה ו'

דובר 1: אנחנו מסתכלים על העולם הניצוץ הזה שאתה מציג על הבלתי ידוע בלתי צפוי ואני חושב על זה שבהתחלה בני-האדם יצרו דברים יצרו יצירות יצרו כלים והם היו לא מושלמים כי אנחנו לא מושלמים ואז הם בנו מחשבים ואלגוריתמים ומכונות ורובוטים והרובוטים האלה יוצרים דברים אם משמעותית הרבה פחות טעויות זאת אומרת הרבה יותר אם אתה צריך משהו שחוזר על עצמו משהו תבניתי משהו מדויק אז אתה פונה למכונה או למחשב ואז כדי להתמודד עם הניכור הזה שהכל נראה אותו דבר ושאין שום דבר מפתיע אז מכניסים גליצ'ים בכוונה בתוך התוכנה רואה לה מדי פעם תפספסי איזה עין בסוודר ואני תוהה אם זה לא משהו שאפשר לעשות גם בבינה מלאכותית שאמורה להיות לתקשר איתנו ולהגיד כן אז אנחנו מדברים וזה התסריט של שיחה וככה נראת אינטראקציה ומדי פעם תפתיעי אותי יש איזה משהו שאנחנו אומרים גם לבני זוג שלהן כי הפתיעו

דובר 2: אז זה מה שאני אומר מה במובן הזה אין שום בעיה אפשר להכניס לה איזושהיא פונקציה רנדומלית שהם מדי פעם תעשה את הגליצ'ים האלה שאתה קורא להם כן אבל אתה תדע שזה גליצ'ים

דובר 1: האם הבעיה היא שבינה מלאכותית לא יכולה להידמות מספיק לבני אדם או שאולי

דובר 2: לא מספיק

דובר 1: משכנעת לא אי אפשר זאת אומרת אם אני לא יודע מבחן טיורינג כן אני לא יודע שמערכת היחסים שלי עם בינה מלאכותית יכול להיות שאני אחשוב שהיא אדם ואני כן כן זה יתפקד

דובר 2: כן כן זה מה שאני אומר זאת אומרת שאין אין שום בעיה לראות אם אתה לא יודע אין שום בעיה לראות בדפוסים החיצוניים של ההתנהגות שלה של התגובות שלה של ההתייחסות שלה ממש כמו אדם רגיל זה בזה אין בעיה ובאמת מבחן טיורינג אתה בדרך כלל כולנו נכשלים או-קיי אנחנו לא יודעים אם אנחנו מדברים עם מכונה או עם או עם אדם וזה יכול להיות להגיע באמת לרמות

דובר 1: כרגע יש לנו את זה אולי בפורמט יותר טקסטואלי בפורמטים של אודיו אני יכול לדבר עם סירי או אם זה נשמעות כמו בני אדם לא כמו הקולות המסונתזים שבשנות ה-80 נכון וברגע שאתה מרכיב את הדבר הזה גם לתוך רובוט שנראה האנושי וגם לתנועות שלו ולהתנהל שלו אז יכול להיות שאנחנו בלי ידע מוקדם לא נוכל להבדיל בין רובוטים לבני אדם תשמע

דובר 2: זה יותר מזה הם אם ראית את הסרט אקס מהקינה והייתה חלקית אז אני מציע לכולם לראות את הסרט יש שם את רובוט דמוי אדם הבינה המלאכותית האישה כן אישה חווה קוראים לה איב שבו מגיע אדם לשוחח עם הרובוט הזה קשה לקרוא לה רובוט החשובים את הסרט הזה היא האמא של הבנות המלאכותיות של הארובות מבני אדם תוך כדי הסרט אתה מתאהב בה גם הצופה מתאהב בה וגם כמובן האוטו גיבור בסרט מתאהב בה אתה אומר לעצמך וואו הנה השלב הבא שבו בני אדם יקיימו מערכות יחסים רובוטים אבל אני חושבת שזה לא העניין ז"א הכל יכול לראות מבחוץ אותו דבר יכול מאוד להיות שהרבה מאוד אנשים בהחלט ימצאו ברובוט הזה בן זוג ז"א אני באמת לא יודע להגיד מה איך החברה תתפתח אני חושבת שזה די החברה מסוגלת לעשות הכל וביכולת להתפתח הכל

דובר 1: ואנשים יהיו טאמגוצ'ים כן

דובר 2: בדיוק בדיוק וגם בני אדם אני לא גידלתי את החוק אני לא יודע אני לא יודע מה הצרכים הפסיכולוגיים של אנשים ובוודאי יהיו כאלה שזה יפתור להם את הבעיה אם המין האנושי בואו נגיד את זה ככה אם המין האנושי כמכלול יקבל בינה מלאכותית בתוך מערכות יחסים כמו שתיארנו עכשיו של אהבה של זוגיות וכו' אז היכונו לחשכה הגדולה כן אנחנו צוללים לתקופה לטעמי אפלה אבל תראה גם אנחנו מחפצנים אנשים אנחנו רואים את כל הזמן אנחנו מכווצים אנשים והם מחפצנים את עצמנו כלומר אנחנו דואגים להיראות יפה ומוכנים לעשות ניתוח אף ובוטוקס ולוקחים

דובר 1: אנשים שונים לתפקידים שונים בחיים שלנו למלא צרכים לי

דובר 2: בדיוק אני מדבר מזה שאנחנו מכווצים את עצמנו כלומר אנחנו משנים את מבנה הגוף שלנו את ההתנהגות שלנו את השפה שלנו בהתאם למה שאנחנו חושבים שהחברה רוצה שאנחנו נהיה ואחר כך אנחנו גם אוספים אנשים בחיינו בדרך מאוד מחפצנת הרבה יותר קל להחליף מאשר לתקן אבל ככל שאנחנו מחפצנים עם אנשים ככה אנחנו מאנישים מהאנשים חפצים וטכנולוגיה

דובר 1: אנחנו כועסים על ווייז

דובר 2: אנחנו כועסים על בטח בוודאי אנחנו כועסים על וויז צועקים עליה אנחנו מתעצבנים אנחנו מתעצבנים על אפליקציות שלא עובדות אנחנו מהאנשים את הטכנולוגיה ואני חושב שזה מסוכן ז"א מסוכן למין האנושי משהו יש במין האנושי בעיניי שאי אפשר לעשות לו רדוקציה בשום דבר אחר לא לטכנולוגיה לא לביולוגיה לא להתנהגות חברתית כמו לסוציולוגיה לא לפסיכולוגיה בסוף בסוף תמיד נשאר הניצוץ האנושי והניצוץ האנושי לעולם אי אפשר

דובר 1: יהיה שדתי יגיד הניצוץ האלוקי אומר את זה כן כן כן כן קודם כל מיני שמות שונים כן זה

דובר 2: בדיוק מה שאני קורא לו יש שמה את הנעלם כולנו דתיים מובן הלא פולחני של העניין ז"א אדם שאין לו את הקסם שאין לו את הנעלם שאין לו מה שבשבילו הוא קם בבוקר שאינו מה שגורם לו תודה כי אתה יודע מזיז אותו הוא מפסיק להיות אדם הופך להיות מנגנון ביולוגי ואני מקווה שאנחנו לא נפסיק להיות בני אדם הטכנולוגיה

דובר 1: הולכת ומתקרבת אלינו פיזית כאשר היא חלק מאתנו כבר בתוכנו מדברים על מכונות פשוטות או פחות אפילו קצת יותר מורכבות שמוטמעות בגוף שלנו או נמצאות עלינו כל הזמן שהוא מקושר אל טלפון סלולרי ודברים כאלה האם יכול להיות מצב שבו כפי שאנחנו מחפצנים את עצמנו והבאתה מייפים את עצמנו ופיזית ומעשירים את עצמנו מנטלית ואינטלקטואלית האם יכול להיות שאנחנו נשדרג את עצמנו באמצעות בינה מלאכותית ואז הבינה המלאכותית תהפוך להיות חלק מהאישיות שלנו חלק מההתנהגות שלנו אולי היא גם חלק מהתנועה שלנו למשל היא שלד חיצוני שמניע אותך ואז אם היא הופכת להיות חלק מהמהות שלנו א

דובר 2: הכל יכול להיות בו למה ברור שהכל יכול להיות ואני לא נגד ההפך אני בעד אם הייתי יכול לשים איזשהו רכיב שעוזר לי לזכור טוב יותר רכיב שעוזר לי לראות טוב רכיב שעוזר לי לשמוע טוב יותר חלק מהדברים הקיימים היום אין לי בעיה עם זה שהטכנולוגיה בדרך כלל הייתה בחוץ עכשיו מולבשת עלינו ובאיזה שהוא שלב תהיה הם חלק מאיתנו איכשהו נוכל לפתור את המחסום הביולוגי וכבר יש שם דברים כאלה והביולוגיה הטכנולוגיה תהיה לחלק מאתנו זה בסדר גמור ו זה רק ישפר את היכולות שלנו להיות טובים יותר יעילים יותר מוצלחים יותר חכמים יותר ואף ובמידה מסוימת לאפשר לניצוץ הזה שלנו להתפתח יותר ולכבוש מחוזות שלא כבשנו עד כה ז"א עם זה אין לי בעיה בכלל המצב האוטופי או הדיסטופי תלוי כל אחד מהכיוון שלו זה שאפשר לעשות איזשהו SCREENING של MRI מאוד מדויק של הרשתות העצביות אז לעשות איזושהי העתקה של רשתות העצביות האלה חומרים שהם לא ביולוגיים ואז

דובר 1: חיי נצח ואז

דובר 2: ואז אחרי כמה שלבים בהם ואז חיי נצח או גיהנום דרך אגב הוא גיהנום יש אם ראית המראה שחורה זה שני פרקים ומאוד שממחישים את חיי נצח לגנום ולגן עדן אחד סנדי נפטרו על שתי נשים מבוגרות שהולכות לעולמן אבל בעצם ממשיכות לחיות חיי נצח מתאהבות אחת בשנייה חיות חיי נצח על הרשת או-קיי ההספק נגמר שם באופוריה נהדרת ונפלאה ואיזה יופי והינה אנחנו בדרך הטכנולוגית אפשרנו חיי נצח מצד שני יש את הפרק שנקרא WHITE קריסמס ששם אתה רואה רגע רגע אם התודעה נמצאת עכשיו על הרשת אם יש מישהו ששולט על הרשת הזה הוא יכול להפוך את החיים שלה לגיהנום אז כיוון שהטכנולוגיה הולכת לאבנים בטח לא יודע מה אמר אבל אנחנו צריכים אם אפשר להגיד אנחנו צריכים כי אנחנו לא חושבים קולקטיבית בסדר זה לא שאנחנו והדברים מתפתחים כל אחד מאיתנו יש שליטה אפסית כמעט על ההתפתחות של המין האנושי אנחנו צריכים להיזהר זה נראה נורא טוב ונורא נחמד ונורא עוזר ונורא מפתח וכו' אבל הסכנה שם בוא

דובר 1: נדבר על רגשות מה זה רגשות מה יכולת של בינה מלאכותית להבין רגשות לקלוט רגשות ולהרגיש בעצמה אם

דובר 2: אנחנו נסתכל על הבינה המלאכותית ברמה מאוד גבוהה נגיד בסדר הבינה המלאכותית תדע לקלוט או שאנחנו תדע לקלוט התנהגויות ביטויים היא תוחל לקרוא את הפנים שלנו את שפת הגוף את תדירות הפניה אליה את האינטונציה ז"א כל הנתונים שאנחנו רגילים לאסוף על אנשים שנמצאים איתנו בקשר ולקרוא עליהם שהם שמחים שהם עצובים שהם מתוסכלים אבל הבינה המלאכותית תדע לעשות את זה זאת אומרת היא תדע להגיע לאיזושהי מסקנה לגבי מה מרגיש שאדם שנמצא מולי אפילו הרבה יותר טוב מאיתנו כי אולי יהיו לסנסוריים שיוכלו

דובר 1: אני לא יכול לדעת מהדופק שלך אבל בינה מלאכותית יכולה בדיוק

דובר 2: כמו חום או-קיי או שאנחנו מזיעים היא תדע לקרוא שאנחנו מזיעים זאת היא תדע לקרוא עלינו הרבה יותר טוב ממה שאנחנו יודעים לקרוא על אחרים זה בזה אין ספק ובמידה מסוימת אם היא תהיה מספיק משוכללת כן אנחנו מדברים מכאן לאין סוף אם היא תהיה מספיק משוכללת יכול להיות שהיא עצמה גם תדע להזיע ותדע לבצע את כל מה שצריך לעשות כדי להביע הרגש או-קיי יכול להיות שצריכת החשמל שלה תעלה ברגעים מסוימים במקביל ללחץ דם יכול להיות שהיו לה יהיו לה את כל הסממנים של רגש אם זה נראה לי שזו לא תהיה בעיה אבל אז השאלה שמעניינת אותי לדוגמה פילוסוף האם קורלציה מוחית כן קורלציה מוחית של האהבה היא התוכן של מושג האהבה או-קיי זאת האם אפשר לקחת את מושג של האהבה ולעשות לו רדוקציה למצב פסיכוביולוגיה מסוים זאת אומרת מה אמנם מצב פסיכולוגיים פסיכוביולוגיה מורכב עונה בפסיכולוגיה מורכב כן אני לא מדבר כאן על מנגנונים פשוטים מדברת רק על הרעיון האם זאת אהבה או-קיי השאלה הגדולה נכון מה זאת אהבה וזו שאלה שלא אמורה להיפתר ואם אנחנו ניקח אותה לבינה מלאכותית היא תיפתר כלומר מופעים של הרי ערך האהבה יהיו זהים למה שבני אדם עושים בדרך כלל אני חושב שלא ניתן להסביר באופן מלא באופן שלא משאיר שארית שום דבר בחיים שלנו לא רק אב ובמובן הזה אני אפלטונית אפלטון טען שצריך לחלק את העולם ל-2 לעולם התופעות לדברים שאנחנו רואים בעולמנו שהם דינמיים שמתווים וקלים וכו' ולעולם הידיעות ובעולם הידיעות זה צורה זה פורם כן עולם צורות הוא עולם ההגדרות בעצם ובעולם ההגדרות עולם ההגדרות בגבירתנו ניצחי הוא על מרחבי כן הוא האמת וכל התופעה לוקחת חלק באידיאה שלה כלומר מממשת באופן חלקי את הידיעה של לדוגמה שולחן יש אפשר לייצר אינסוף שולחנות באין סוף גדלים באין סוף צורות ובסוף כולם כל אסור כולם כל השולחנות אנחנו נייצר ייקחו חלק באידיה של השולחן וי' אין סוף אפשרויות למימוש הידיעה הזאת בוא ניקח את הדעה של אהבה ז"א יכולות להיות מערכות יחסים שונות עם ביטויים שונים לכל אדם כן כמובן וכל מערכת יחסים תיקח חלק בידיה הזאת של האהבה אבל הידיעה הזאת שהיא שם שהיא הכי ממשית כן בכלל על כל הידיעות ממשיות יותר מהתופעות כי נצחיות אז הידעה של אהבה לטעמי לא תוכל לבוא לידי מימוש משמעותי במערכות יחסים עם רובוטי אבל היא כן תבוא היא תבוא באופן חלקי עכשיו תלוי שוב תלוי למטה למטה למה אנחנו מתייחסים כשאנו מדברים על המילה רגשות עם מישהו פוגע לי ברכב אז אני מתעצבן לא רק בגלל שהוא גרם לי לנזק כלכלי כי אפשר לתקן נכון אני מתבאס מזה שהוא פגע לי ברכב היה לי עד לא מזמן אופנוע כבד אז אפשר להגיד שאולי אהבתי את האופנוע שלי סדר אבל זה ברור שמדובר על מערכות יחסים שאנו משתמשים באופן מושאל במושג של אהבה או באופן חלקי במושג של האבה יכול

דובר 1: להיות שאם אנחנו נצליח לגרום לבינה מלאכותית לגרום לנו להתאהב בה זה להגיד משהו על האיכות של הבינה המלאכותית אבל גם אולי זה יחשוף את השקר שאנחנו מספרים לעצמנו אולי אהבה באמת שילוב של תהליכים נוירולוגיים וכימיים ונתנו לה יותר כוח ממה שהיא צריכה נתנו לה יותר הפכנו אותה למשהו חשוב למה שנחשק כאשר אולי היא אהבה היא כמו רעב אתה רעב אתה אוכל אתה לא אוהב ואולי זה הפחד לא שאנחנו נתאהב בבינה מלאכותית ומכווצים וכל הדברים האלה אל שהבינה המלאכותית לגרום לנו להבין שבעצם אם הצלחנו להתאהב בבינה מלאכותית אזולאי האהבה עצמה הרעיון של אהבה ידיה של אהבה היא קצת מקושקשת באיך שהבנו את עד היום כן כן

דובר 2: זה קלט בול את הביקורת על אפלטון בוודאי יכול להיות יכול להיות וזו סכנה מאוד גדולה כלומר מה שאתה אומר שיכול להיות שאנחנו חיים באונה העצמית שהוסבר לנו סיפור

דובר 1: אנחנו בהכרח מספרים לעצמנו סיפור כי אנחנו מסבירים לעצמנו את העולם באמצעות כלים מוגבלים כאשר אנחנו לא יכולים להבין את עצמנו יותר ממה שהמוח שלנו מאפשר ז"א אומרת אנחנו מראש מוגבלים

דובר 2: אבל אבל זה בדיוק העניין השאלה למה אנחנו קוראים ההבנה ז"א האם אנחנו יודעים לתת הסברים אז כן נכון היכולת שלנו לתת הסברים היא יכולת מוגבלת לטעמי על מה שאתה מתאר הוא המצב ההפוך במצב שבו אנחנו נבין שההסבר שלנו הוא טוב מאוד הוא פשוט המציאות היא פשוט סתמית אין בה בשום קסם אין בה שום נעלם זה היה צריך פשוט לחפש טוב יותר ולמצוא ולדייק ולהגיע לרזולוציות יותר ויותר נמוכות ואז נדע הכל המין האנושי יתפכח מאשליה כזאת מספר פעמים בהיסטוריה של הרעיונות אני מקווה שזה לא ככה אז כן נכון אני יודע שאם אני אקח כדורים מסוימים אז יקרה לי משהו מבחינה פסיכולוגית או-קיי ואם אני אשתה חומרים אוכל פשוט אפילו כן קורה לי משהו כן האוכל משפיע על האופן שבו אני מגיב מדבר חי וכו' וכו' זה ברור שיש לנו אינטראקציה כל הזמן אם העולם החומרי ושאת העולם החומרי אנחנו מנסים להבין טוב יותר ועמוק יותר וברור יותר ולי ואחר כך להשתמש בזה ולפתח טכנולוגיה אני מצטער וזה חוזר לאותה נקודה שבה הרגש בעיניי הוא לא רק הביטויים של הרגש כי את הביטויים אפשר א אולי במידה מסוימת להסתיר ב' אפשר את הביטויים של הרגע לשנות כל אחד יכול לשנות ביטויים של רגש או-קיי וזה בדיוק מה שאני מקווה שיש שיימשך

דובר 1: מהסוג הישן ורגש שיוצא מתוך קופסה שחורה שאנחנו לא יודעים איך היא עובדת ואם אנחנו לא יודעים איך היא עובדת איך נסביר אותה איך נתכנת אלגוריתם להבין אותה לא

דובר 2: בדיוק אנחנו נוכל לתכנן את אלגוריתם להבין את הביטויים של הרגש אבל לא את הרגש עצמו אתה חושב

דובר 1: שאנחנו עלולים בעתיד להיפגע מהבינה המלאכותית מה ההשלכות של התקדמות של וההזדמנות של לאנושי זה מסוכן לנו

דובר 2: אני בטח לא הייתי נפגע מבינה מלאכותית כמו שלא הייתי נפגע מתקלה באוטו או מזה שהמחשב הוא סגר התעצבן בסדר ולא הייתי נפגע מזה

דובר 1: המחשב שונא

דובר 2: אותי כן כן עד ברגע הנכון הוא נופל כן איך הוא ידע מתי ליפול אז אני לא הייתי נפגע עם בינה מלאכותית ואני מאוד מקווה שאף אחד לא ייפגע מבינה מלאכותית שלעולם לא נשכח שמדובר מבינה שהיא מלאכותית מי שבוחר להיפגע מזה בסדר אני יודע מה מה אפשר לעשות דבר אולי האחרון שכדאי לדבר עליו זה שלא דיברנו עליו שעד עכשיו זה מוסר הערכים גם היום יש אנשים שהם טועים לחשוב שהמוסר זה נורמות התנהגותיות מקובלות אם הוא מוסר נורמות התנהגותיות מקובלות אפשר לתכנת בינה מלאכותית להתנהג באופן מוסרי אבל אני חושב שלא אני חושב שההיסטוריה לימדה אותנו שנורמה התנהגותית מקובלת לא בהכרח מעידה על הנורמה התנהגותית הראויה באמצעות השאלה רכז מאי לנורמה התנהגותית הראויה בלי לענות על השאלה הזאת כי זה סיפור מורכב בואו ניקח את הרעיון של לתת משמעות לתת משמעות לחיים לתת משמעות לדברים שאנחנו עושים המושג של משמעותי עליהם אם אנחנו בוחרים לתת משמעות לדברים מסוימים בחיינו אז חלק מזה כמובן זה מתוך התקופה וכו' והפסיכולוגיה שלנו והרקע וכו' זה ברור אבל בסוף זה אנחנו אלה שבוחרים לתת משמעות לחיים שלנו או למעשים שלנו וזה לבינה מלאכותית לא יהיה זה מרחב ערכים ומשמעות זה מרחב שלא יהיה לה יהיו לה נורמות מקובלות יהיה לה אופי אולי היו לה כל מיני דברים כאלה אבל לא באמת לתת משמעות ד"ר

דובר 1: קותי שוהם ראש היחידה ללימודים כלליים באפקה המכללה האקדמית להנדסה בתל אביב תודה רבה לך פתח תלה מסמל את המוח וניתאי וסינגולריות

דובר 2: מקווה שלא שם בי להתראות