הסכנה לאנושות מהפתוח המואץ של טכנולוגיות

מה זה?

הסכנה לאנושות מהפתוח המואץ של טכנולוגיות

ראובן גרפיט (יום רביעי, 26/06/2002 שעה 21:22)

הסכנה לאנושות מהפתוח המואץ של טכנולוגיות ללא
בקרה עולמית.
האם אנו מוכנים לשלם את המחיר?

ראובן גרפיט

בשנות ה80 הראשונות, ניסיתי לעסוק בתחום של בינה מלאכותית (A.I), אך התנאים לא היו בשלים, כי עוצמות המחשב היו חלשות, המחיר היה יקר ולא היו פלטפורמות פיתוח מתאימות.

כיום המצב שונה לחלוטין. יש בזה עתיד גדול אך גם סכנה משמעותית לקיום האנושי. במקביל ובמשולב להתפתות המדהימה בנושא זה חלה התפתחות מהירה של הנדסה גנטית, שיבוט יצורים ואברים וכן כל נושא הננו-טכנולוגיה, המזעור והמשחק ביצירת הרכבים חדשים של חומרים על ידי שינוי מבנה החומר ברמה האטומית והמולקולרית, או רתימת אטומים ומולקולות למניפולציות טכנולוגיות.
תחום של בינה מלאכותית, A.I זכה להתייחסותם של רבים, אני אתייחס לשנים בולטים המוכרים לרבים:

הראשון: הבמאי שפילברג, בסרטו בינה מלאכותית (A.I=Artificial

Intelligence).

השני: ריי קורצוייל, The Age Of Spiritual Machines, עידן המכונות החושבות.

המייחד את הבינה המלאכותית, במשפט אחד, אם בכלל ניתן הדבר, שמערכת התוכנה, מערכת קבלת ההחלטות המובנית, באמצעות ניסוי וטעייה (Trial and
error), לומדת מהטעויות שלה, משפרת עצמה, מקבלת החלטות וקובעת לעצמה מטרות חדשות, כך שהמכונה/רובוט יכול לחרוג ממסגרת התוכנה המקורית ולפלס לעצמו דרך חדשה בלתי צפויה.

אתאר בתמצית רבה את הסרט לאלה שלא ראו:
הסרט מתאר כיצד זוג הורים המאבד את בנם עקב תאונה. הבן מוכנס להקפאה עד אשר תוכל הרפואה לרפאו ובינתיים נותנים לה תחליף, ילד-רובוט. מבחינה חיצונית הוא נראה ככל ילד אחר. הוא מתוכנת, באמצעות A.I על מנת שיגיב כמו ילד נורמלי, והילד-הרובוט עושה מאמצים למצוא חן בעיני אמו המאמצת ולהיות תחליף מוצלח לילד המקורי. הוא מצליח בכך. לאחר תקופה ארוכה, הילד המקורי מוחזר הביתה ונוצרת תחרות על אהבת האם וקנאה בין הילד המקורי לילד רובוט.

האם בשלב מסוים נאלצת להיפרד מילד-רובוט אבל כאשר היא שומעת שדינו השמדה, היא מביאה אותו ליער מרוחק ומדריכה אותו כיצד להינצל. הפרידה נוגעת ללב. הילד-רובוט לא משלים עם הזנחתו והוא מחפש לחזור לאמו. העלילה מתפתחת, האנושות משתנה, עם הזמן יותר ויותר רובוטים אנושיים מיוצרים, עד כדי כך שרבים מעדיפים רובוטים אנושיים אשר יוצרו והתמחו בתחום הסקס על פני בני אדם. במהלך גלגוליו של הילד-רובוט (המזכיר את הסיפור על פינוקיו), הילד-רובוט חורג ממסגרת התוכנה הבסיסית שלו ובמהלך חיפוש אחר אמו הוא מקבל החלטות עצמאית. בשלב מסוים הוא נופל בים עם הרכב שבו הוא נסע וקופא בתוכו.

סופו של הסרט, שלאחר תקופה ארוכה, האנושות נכחדה, ויצורים בעלי A.I מאתרים אותו, מחלצים אותו ומנסים להבין באמצעות הילד-רובוט את אותם יצורים אנושיים שנכחדו ואשר יצרו את התהליך של היווצרותם.

ספרו של ריי קורצוויל, סוקר בפרוטרוט את התפתחות העולם עם דגש על התפתחות המדע, הפיזיקה ובעיקר דן בהתפתחות הטכנולוגיה הממוחשבת. הדגש שהוא שם עליו הינו שקצב ההתפתחות הטכנולוגית על ציר הזמן מתקצר במהירות של טור הנדסי. התחזית שלו היא שבסביבות 2019 בכל הציוד המוכר לנו היום, ציוד משרדי, בגדים, גוף האדם, כל המכונות יהיו משובצות מחשב. ניתן יהיה להתגבר על עיוורון וחירשות. אנשים מחוסרי גפיים יתפקדו באמצעות שילוב של מערכות אשר יבצעו את הגירויים החשמליים הנדרשים יחד עם אביזרים רובוטיים חוץ שלדיים. נוכל להתקשר באמצעות משקפים תלת ממדיים וציוד שמע ממתוחכם עם מכונות, אינטרנט ועם מציאות וירטואלית.
אנו נחזה באנשי אמנות וירטואליים אשר יזכו למוניטין והערצה, כתחליף לאמנים בני אנוש, אשר לא יוכלו להתחרות בביצועי האמנים הוירטואליים. 100 שנה לאחר מכן, לא יהיה הבדל ממשי בין בני אדם למחשבים אשר ישתלבו זה בזה.

באם נשלב בזה את ההתפתחויות בהנדסה גנטית ונושא השיבוט האנושי נשאלת השאלה לצורך דיון בפורום - אנא פנינו מועדות ובאילו צעדים, אם בכלל, יש לנקוט על מנת לשלוט ולבקר תהליכים אלה?
לצורך פיתוח הדיון, אעלה מספר שאלות, במטרה להתמודד עם כל אחת בנפרד. לאחר יתקיים דיון על המכלול:

1) הטכנולוגיה מייתרת את האדם העובד. האבטלה הולכת וגוברת ויחד עמה פער המעמדות ומשבר חברתי מסוג לא מוכר.

2) מציאת תחליף רובוטי לבני האדם בחיי המין ובעזרה בבית יהרוס את מהות המשפחה ורבים מאד לא ידעו מה משמעות להוליד ולגדל ילד.

3) נושא השיבוט מעלה בעיות משפטיות, מוסריות מדרגה ראשונה.
מספר דוגמאות: יש מספר אנשים משובטים - כפילים זה לזה. אחד גורם לפשע-מי מהם האשם? הרי לא ניתן להבדיל ביניהם. משובט הורג משובט אחר. האם זה נחשב לרצח? להתאבדות? למשובט יש ילד, מי האב האמיתי, כי מבחינה גנטית כולם זהים.

4) בטכנולוגיה העתידית ניתן יהיה ליצור סקנר+MRI+מחשב, אשר יוכל לסרוק את מוחו של אדם כולל תודעתו, זיכרונותיו ורגשותיו. על מנת לשמר את המוח, אנשים יכינו גיבוי וישמרו זאת במחסן נתונים. אדם עובר תאונה קשה, רוב חלקי גופו מוחלפים באמצעות רכיבים או באמצעות חלקים משובטים. היות וגם המוח נפגע, משחזרים לו את ההקלטה האחרונה של המוח. הגוף שונה אך המוח פחות או יותר זהה. האם זה אותו אדם? האם במידה ובמהלך העתקה או השחזור של המוח חלה תקלה, והאדם המשוחזר לא מתפקד כפי שהיה קודם, האם הוא אחראי למעשיו או ניתן לתבוע את החברה ששחזרה את מוח?

ניתן להרחיב בנושא, אך המשמעות ברורה.
הנושא לדיון הינו - האם יש להתארגן היום על מנת ליצור אמנה בין לאומית לעצירת מרוץ הטכנולוגיה, על מנת שמערכת החיים הנוכחית שלנו לא תיהרס ועתידנו לא יוכרע על ידי יצורים המתפקדים על ידי בינה מלאכותית.

הצגת המאמר בלבד

בעד ונגד

סוריא סהארה (יום רביעי, 26/06/2002 שעה 23:14)