בקול רב

9 דברים שלא ידעתם על הבינה המלאכותית

הרב יוני לביא

העולם‭ ‬שלנו‭ ‬עובר‭ ‬מהפכה‭ ‬מטורפת‭. ‬אם‭ ‬בעבר‭ ‬שינויים‭ ‬טכנולוגיים‭ ‬לקחו‭ ‬עשורים‭, ‬היום‭ ‬מופיעים‭ ‬בחיינו‭ ‬חידושים‭ ‬תוך‭ ‬חודשים‭ ‬ואפילו‭ ‬שבועות‭ ‬וימים‭. ‬הבינה‭ ‬המלאכותית‭ (‬AI‭) ‬היא‭ ‬לא‭ ‬רק‭ ‬כלי‭ ‬עבודה‭ ‬חדש‭. ‬היא‭ ‬משנה‭ ‬את‭ ‬הדרך‭ ‬שבה‭ ‬אנחנו‭ ‬לומדים‭, ‬יוצרים‭ ‬ואפילו‭ ‬חושבים‭ ‬על‭ ‬עצמנו‭ ‬כבני‭ ‬אדם‭. ‬הנה‭ ‬9‭ ‬עובדות‭ ‬ותובנות‭ ‬על‭ ‬המהפכה‭ ‬שמשנה‭ ‬את‭ ‬פני‭ ‬המציאות‭:‬

1. ʉ ‰˙ÁÈÏ ·‚ÂÏÌ ÓÙ¯‡‚

החלום‭ ‬על‭ ‬‮"‬גיבור‭-‬על‮"‬‭ ‬בעל‭ ‬כוחות‭ ‬לא‭ ‬אנושיים‭ ‬שיבצע‭ ‬עבורנו‭ ‬משימות‭ ‬אינו‭ ‬חדש‭. ‬שורשיו‭ ‬נעוצים‭ ‬כבר‭ ‬לפני‭ ‬500‭ ‬שנה‭, ‬באגדה‭ ‬על‭ ‬הגולם‭ ‬של‭ ‬המהר"ל‭. ‬הוא‭ ‬היה‭ ‬מעין‭ ‬‮'‬מכונה‮'‬‭ ‬עוצמתית‭ ‬שנשלחה‭ ‬למשימות‭ ‬הגנה‭ ‬כנגד‭ ‬עלילות‭ ‬דם‭, ‬אך‭ ‬חסרה‭ ‬את‭ ‬כוח‭ ‬הדיבור‭ ‬והתבונה‭ ‬האנושית‭. ‬היום‭, ‬הטכנולוגיה‭ ‬המודרנית‭ ‬מנסה‭ ‬להפיח‭ ‬חיים‭ ‬ב'גולם‮'‬‭ ‬המודרני‭, ‬רק‭ ‬שהפעם‭ ‬הוא‭ ‬לא‭ ‬רק‭ ‬פועל‭ – ‬הוא‭ ‬גם‭ ‬חושב‭ ‬לעומק‭, ‬מדבר‭ ‬ויוצר‭. ‬אנחנו‭ ‬כבר‭ ‬לא‭ ‬מחפשים‭ ‬רק‭ ‬‮'‬ידיים‮'‬‭ ‬עובדות‭, ‬אלא‭ ‬‮'‬ראש‮'‬‭ ‬שיודע‭ ‬לחקות‭ ‬את‭ ‬המחשבה‭ ‬שלנו‭.‬

2. ‰˙˜„ÈÌ ‰‡Ï˜È: ‡Â¯ÈÌ Â˙ÂÓÈÌ

כבר‭ ‬לפני‭ ‬אלפי‭ ‬שנים‭ ‬היה‭ ‬לנו‭ ‬ממשק‭ ‬לשאלת‭ ‬שאלות‭ ‬וקבלת‭ ‬תשובות‭: ‬האורים‭ ‬והתומים‭ ‬שהיו‭ ‬על‭ ‬ליבו‭ ‬של‭ ‬הכהן‭ ‬הגדול‭. ‬אלא‭ ‬ששם‭ ‬הגישה‭ ‬הייתה‭ ‬מוגבלת‭ – ‬רק‭ ‬מלך‭ ‬או‭ ‬מי‭ ‬שהציבור‭ ‬תלוי‭ ‬בו‭ ‬יכלו‭ ‬לשאול‭, ‬וגם‭ ‬אז‭ – ‬רק‭ ‬שאלה‭ ‬אחת‭ ‬בכל‭ ‬פעם‭. ‬הבינה‭ ‬המלאכותית‭ ‬עשתה‭ ‬‮'‬דמוקרטיזציה‮'‬‭ ‬של‭ ‬זכות‭ ‬השאלה‭: ‬כל‭ ‬אחד‭ ‬יכול‭ ‬לשאול‭ ‬הכול‭, ‬בכל‭ ‬רגע‭. ‬כמובן‭, ‬בעוד‭ ‬האורים‭ ‬והתומים‭ ‬היו‭ ‬צינור‭ ‬לדבר‭ ‬ה‮'‬‭ ‬המוחלט‭, ‬הבוט‭ ‬הוא‭ ‬בסך‭ ‬הכל‭ ‬אלגוריתם‭ ‬ממוחשב‭, ‬אבל‭ ‬הצורך‭ ‬האנושי‭ ‬הבסיסי‭ ‬בכתובת‭ ‬שתעשה‭ ‬סדר‭ ‬בספקות‭ – ‬נותר‭ ‬כשהיה‭. ‬

3. ˜ÙȈ˙ ‰Ó„¯‚‰: ÓÓÈÏÈÂÈÌ Ï˯ÈÏÈÂÈÌ 

בשנת‭ ‬1950‭ ‬קבע‭ ‬אלן‭ ‬טיורינג‭ ‬את‭ ‬מבחנו‭ ‬המפורסם‭: ‬אם‭ ‬לא‭ ‬תדע‭ ‬להבחין‭ ‬בין‭ ‬תשובה‭ ‬של‭ ‬מכונה‭ ‬לתשובה‭ ‬של‭ ‬אדם‭ – ‬זו‭ ‬בינה‭. ‬מאז‭, ‬הקצב‭ ‬הפך‭ ‬למסחרר‭. ‬אם‭ ‬ב‭-‬2018‭ ‬המודלים‭ ‬המובילים‭ ‬עבדו‭ ‬עם‭ ‬117‭ ‬מיליון‭ ‬פרמטרים‭ (‬משתנים‭ ‬שקובעים‭ ‬איך‭ ‬המכונה‭ ‬מקבלת‭ ‬החלטות‭), ‬היום‭ ‬אנחנו‭ ‬כבר‭ ‬מדברים‭ ‬על‭ ‬מספרים‭ ‬דמיוניים‭ ‬של‭ ‬טריליונים‭. ‬הקפיצה‭ ‬הזו‭ ‬היא‭ ‬לא‭ ‬רק‭ ‬כמותית‭, ‬היא‭ ‬איכותית‭. ‬היא‭ ‬זו‭ ‬שמאפשרת‭ ‬לבינה‭ ‬לדמות‭ ‬חשיבה‭ ‬אנושית‭ ‬יצירתית‭, ‬מורכבת‭ ‬ורגישה‭, ‬כזו‭ ‬שקשה‭ ‬מאוד‭ ‬להאמין‭ ‬שהיא‭ ‬תוצר‭ ‬של‭ ‬שורות‭ ‬קוד‭. ‬

4. ÊÈÂÙÈÌ Â¢ÙÈȘÈÌ¢: ÒÂÛ ÚÈ„Ô ‰‡ÓÂÔ?

היום‭ ‬ניתן‭ ‬להפיק‭ ‬סרטון‭ ‬פרסומת‭ ‬שלם‭, ‬עם‭ ‬דמויות‭ ‬ריאליסטיות‭ ‬לחלוטין‭ ‬וקריינות‭ ‬מושלמת‭, ‬בלי‭ ‬לזוז‭ ‬מהכיסא‭ ‬ובלי‭ ‬שחקן‭ ‬אחד‭ ‬אמיתי‭. ‬היכולת‭ ‬ליצור‭ ‬זיופים‭ (‬Deepfakes‭) ‬היא‭ ‬אחת‭ ‬הסכנות‭ ‬הגדולות‭ ‬של‭ ‬העידן‭ ‬הנוכחי‭. ‬קל‭ ‬מאוד‭ ‬לזייף‭ ‬קול‭ ‬או‭ ‬מראה‭ ‬של‭ ‬אדם‭ ‬ולגרום‭ ‬לו‭ ‬לומר‭ ‬דברים‭ ‬שלא‭ ‬אמר‭ ‬מעולם‭. ‬בעולם‭ ‬שבו‭ ‬אי‭ ‬אפשר‭ ‬להאמין‭ ‬למה‭ ‬שרואים‭ ‬בעיניים‭ ‬או‭ ‬שומעים‭ ‬באוזניים‭, ‬אנחנו‭ ‬נדרשים‭ ‬לפתח‭ ‬חוש‭ ‬ביקורת‭ ‬חריף‭ ‬הרבה‭ ‬יותר‭ ‬ולחפש‭ ‬עוגנים‭ ‬של‭ ‬אמת‭ ‬בתוך‭ ‬ים‭ ‬של‭ ‬זיופים‭. ‬

5. Ó˘·¯ ·ÓÚ¯Î˙ ‰ÁÈÂÍ

מערכת‭ ‬החינוך‭, ‬שנטתה‭ ‬בשנים‭ ‬האחרונות‭ ‬לכיוון‭ ‬של‭ ‬הערכה‭ ‬חלופית‭ ‬ועבודות‭ ‬בית‭, ‬גילתה‭ ‬פתאום‭ ‬שאי‭ ‬אפשר‭ ‬עוד‭ ‬לסמוך‭ ‬על‭ ‬ההערכות‭ ‬האלה‭. ‬תלמידים‭ ‬וסטודנטים‭ ‬משתמשים‭ ‬בבינה‭ ‬כדי‭ ‬לכתוב‭ ‬בתוך‭ ‬שניות‭ ‬עבודות‭ ‬שלמות‭ ‬ברמה‭ ‬אקדמית‭. ‬הפתרון‭? ‬יש‭ ‬מורים‭ ‬שבוחרים‭ ‬דווקא‭ ‬לחזור‭ ‬אחורה‭: ‬דורשים‭ ‬הגשת‭ ‬עבודות‭ ‬בכתב‭ ‬יד‭ ‬או‭ ‬פרזנטציות‭ ‬פרונטליות‭ ‬כדי‭ ‬לוודא‭ ‬שהתלמיד‭ ‬אכן‭ ‬קרא‭, ‬הבין‭ ‬והטמיע‭ ‬את‭ ‬החומר‭. ‬אולי‭ ‬זו‭ ‬ההזדמנות‭ ‬להחזיר‭ ‬את‭ ‬המפגש‭ ‬האנושי‭ ‬הישיר‭ ‬והחי‭ ‬למרכז‭ ‬הלמידה‭. ‬

6. ·ÂËÈÌ ·ÓË·Á: ω˙¯‡Â˙ ÏÒÙÂ‚߉

אנחנו‭ ‬לא‭ ‬מדברים‭ ‬על‭ ‬ה‭-‬irobot‭ ‬הישן‭ ‬והמוכר‭ ‬שמתנגש‭ ‬בקירות‭. ‬הצפי‭ ‬הוא‭ ‬שבקרוב‭ ‬ממש‭ ‬יכנסו‭ ‬לחיינו‭ ‬רובוטים‭ ‬דמויי‭ ‬אדם‭ (‬הומנואידים‭) ‬שידעו‭ ‬לבשל‭, ‬לשטוף‭ ‬כלים‭ ‬ולקפל‭ ‬כביסה‭. ‬למעשה‭ ‬כבר‭ ‬היום‭ ‬תוכלו‭ ‬לרכוש‭ ‬את‭ ‬הרובוט‭ ‬‮'‬ניאו‮'‬‭ ‬תמורת‭ ‬20‭ ‬אלף‭ ‬דולר‭ ‬בלבד‭, ‬או‭ ‬לשכור‭ ‬אותו‭ ‬עבור‭ ‬499‭ ‬דולר‭ ‬לחודש‭. ‬קללת‭ ‬‮"‬בזיעת‭ ‬אפיך‭ ‬תאכל‭ ‬לחם‮"‬‭ ‬הולכת‭ ‬ומתפוגגת‭ ‬לנגד‭ ‬עינינו‭, ‬מה‭ ‬שמעלה‭ ‬שאלה‭ ‬גדולה‭: ‬מה‭ ‬נעשה‭ ‬עם‭ ‬כל‭ ‬הזמן‭ ‬הפנוי‭ ‬שיתפנה‭ ‬לנו‭? ‬האם‭ ‬נשקע‭ ‬בבטלה‭ ‬או‭ ‬שנשתמש‭ ‬בו‭ ‬למשימות‭ ‬משמעותיות‭ ‬יותר‭?‬

7.  ‰ÊÈÂ˙ ÂÚ‰: ‰·ÂË ˘Óӈȇ ÙÒ˜ÈÌ

הבינה‭ ‬המלאכותית‭ ‬סובלת‭ ‬מתופעת‭ ‬‮'‬הזיות‮'‬‭ (‬Hallucinations‭) . ‬היא‭ ‬עלולה‭ ‬לפברק‭ ‬עובדות‭ ‬בביטחון‭ ‬עצמי‭ ‬מפורז‭, ‬כולל‭ ‬המצאת‭ ‬פסוקים‭ ‬שלא‭ ‬היו‭ ‬ולא‭ ‬נבראו‭. ‬אך‭ ‬יש‭ ‬כאן‭ ‬שיעור‭ ‬חינוכי‭ ‬מפתיע‭: ‬בניגוד‭ ‬לבני‭ ‬אדם‭, ‬כשמעמידים‭ ‬את‭ ‬הבוט‭ ‬על‭ ‬טעותו‭, ‬הוא‭ ‬מיד‭ ‬מודה‭ ‬בה‭ ‬בענווה‭ ‬וללא‭ ‬טיפה‭ ‬של‭ ‬אגו‭. ‬
בענייני‭ ‬קודש‭, ‬כלים‭ ‬כמו‭ ‬‮"‬הרב‭ ‬דיקטה‮"‬‭ ‬הולכים‭ ‬ומשתפרים‭ ‬ונותנים‭ ‬ביצועים‭ ‬מרשימים‭ ‬בכתיבת‭ ‬פסקי‭ ‬הלכה‭, ‬אך‭ ‬הם‭ ‬עדיין‭ ‬דורשים‭ ‬עין‭ ‬אנושית‭ ‬בוחנת‭ ‬וביקורתית‭. ‬

8. ˙¯‰ Ïχ ‚·ÂÏÂ˙

הפוטנציאל‭ ‬להפצת‭ ‬טוב‭ ‬הוא‭ ‬עצום‭. ‬היום‭ ‬ניתן‭ ‬להמיר‭ ‬שיעור‭ ‬תורה‭ ‬לעשרות‭ ‬שפות‭ ‬שונות‭, ‬כשאתה‭ ‬המרצה‭ ‬נראה‭ ‬ומהדהד‭ ‬בקולך‭ ‬המקורי‭, ‬ולמרות‭ ‬שצילמת‭ ‬את‭ ‬עצמך‭ ‬בעברית‭ – ‬הקהל‭ ‬במוסקבה‭ ‬יצפה‭ ‬בך‭ ‬ברוסית‭ ‬שוטפת‭ ‬ובמדריד‭ ‬בספרדית‭ ‬קולחת‭. ‬היכולת‭ ‬לתמלל‭ ‬ולסכם‭ ‬בתוך‭ ‬שניה‭ ‬שיעור‭ ‬תורה‭ ‬של‭ ‬שעה‭, ‬ליצור‭ ‬לו‭ ‬גרפיקה‭ ‬מרהיבה‭ ‬שתמחיש‭ ‬את‭ ‬רעיונותיו‭ ‬ולהפוך‭ ‬את‭ ‬זה‭ ‬לסרטון‭ ‬חי‭ ‬ושובה‭ ‬לב‭ – ‬היא‭ ‬בלתי‭ ‬נתפסת‭. ‬

9. ‚„ÂÏ ˘ÈÓ¢‰ ÓÏÈÓ„‰ 

וכאן‭ ‬אנחנו‭ ‬מגיעים‭ ‬לעיקר‭: ‬חז"ל‭ ‬לימדונו‭ ‬ש"גדול‭ ‬שימושה‭ ‬של‭ ‬תורה‭ ‬יותר‭ ‬מלימודה‮"‬‭ (‬ברכות‭ ‬ז‭, ‬ב‭). ‬המשמעות‭ ‬עמוקה‭: ‬הערך‭ ‬המרכזי‭ ‬של‭ ‬תלמיד‭ ‬חכם‭ ‬אינו‭ ‬טמון‭ ‬בהיותו‭ ‬מאגר‭ ‬מידע‭ ‬מהלך‭ ‬או‭ ‬‮"‬גוגל‭ ‬תורני‮"‬‭. ‬תורה‭ ‬היא‭ ‬לא‭ ‬מידע‭ ‬קר‭ – ‬היא‭ ‬חיים‭. ‬הבוט‭ ‬יכול‭ ‬לצטט‭ ‬את‭ ‬כל‭ ‬הש"ס‭, ‬אבל‭ ‬הוא‭ ‬לעולם‭ ‬לא‭ ‬יוכל‭ ‬להדגים‭ ‬בחייו‭ ‬ענווה‭, ‬קדושה‭ ‬או‭ ‬יראת‭ ‬שמיים‭. ‬הוא‭ ‬אולי‭ ‬יוכל‭ ‬לכתוב‭ ‬פסק‭ ‬הלכה‭, ‬אבל‭ ‬הוא‭ ‬לא‭ ‬יכול‭ ‬להיות‭ ‬דוגמה‭ ‬חיה‭ ‬למי‭ ‬שמקיים‭ ‬אותו‭.‬

הרמב"ם‭ ‬חזה‭ ‬שבאחרית‭ ‬הימים‭ ‬‮"‬המעדנים‭ ‬יהיו‭ ‬מצויים‭ ‬כעפר‮"‬‭ ‬והחיים‭ ‬יהיו‭ ‬קלים‭ ‬ונעימים‭ ‬יותר‭. ‬ייתכן‭ ‬שכשהנביא‭ ‬ישעיהו‭ ‬הבטיח‭ ‬‮"‬וְעָמְדוּ‭ ‬זָרִים‭ ‬וְרָעוּ‭ ‬צֹאנְכֶם‮"‬‭ (‬ס‮"‬א‭, ‬ה‭), ‬הוא‭ ‬לא‭ ‬התכוון‭ ‬לתיאלנדים‭, ‬אלא‭ ‬לבוטים‭ ‬שיעשו‭ ‬עבורנו‭ ‬את‭ ‬המלאכות‭ ‬הקשות‭ ‬ויפנו‭ ‬אותנו‭ ‬לצמיחה‭ ‬רוחנית‭. ‬הדור‭ ‬שלנו‭ ‬קרוב‭ ‬להתגשמות‭ ‬החלום‭ ‬הזה‭ ‬יותר‭ ‬מאי‭ ‬פעם‭.‬

א‭-‬ב‭-‬ל‭, ‬עם‭ ‬כל‭ ‬הגאונות‭ ‬שלה‭ – ‬הבינה‭ ‬המלאכותית‭ ‬היא‭ ‬מכונה‭ ‬ללא‭ ‬נשמה‭.‬‭ ‬היא‭ ‬לעולם‭ ‬לא‭ ‬תוכל‭ ‬להתפלל‭ ‬מעומק‭ ‬הלב‭, ‬להתרגש‭ ‬מזריחה‭, ‬לחוש‭ ‬את‭ ‬קדושת‭ ‬השבת‭ ‬או‭ ‬לחבק‭ ‬ילד‭ ‬בוכה‭. ‬אלו‭ ‬המתנות‭ ‬הבלעדיות‭ ‬שניתנו‭ ‬לנו‭, ‬שנבראנו‭ ‬בצלם‭ ‬אלוקים‭. ‬

אנחנו‭ ‬לא‭ ‬צריכים‭ ‬לפחד‭ ‬מהבינה‭ ‬המלאכותית‭. ‬אנחנו‭ ‬רק‭ ‬צריכים‭ ‬לוודא‭ ‬שהבינה‭ ‬האנושית‭ ‬והנשמה‭ ‬האלוקית‭ ‬שלנו‭ ‬יישארו‭ ‬תמיד‭ ‬צעד‭ ‬אחד‭ ‬לפני‭ ‬המכונה‭. ‬

עוד במדור זה

לבחור בחיים…

לבחור בחיים…

אני‭ ‬הולך‭ ‬לגעת‭ ‬כאן‭ ‬בנקודה‭ ‬לא‭ ‬פשוטה‭. ‬נקודה‭ ‬מורכבת‭, ‬כואבת‭,…
לראות את הטוב

לראות את הטוב

בשבוע‭ ‬האחרון‭, ‬בחג‭ ‬החנוכה‭, ‬התקיימה‭ ‬מסיבת‭ ‬הודיה‭ ‬מיוחדת‭ ‬ומרגשת‭ ‬במיוחד‭…
על הגבורות ועל הניסים

על הגבורות ועל הניסים

בשבוע‭ ‬שעבר‭ ‬הייתי‭ ‬באירוע‭ ‬מיוחד‭ ‬במינו‭. ‬חברי‭ ‬הטוב‭ ‬ערן‭ ‬רולס‭,…
אור מתוך החשיכה

אור מתוך החשיכה

חנוכה‭ ‬הוא‭ ‬חג‭ ‬שבו‭ ‬עם‭ ‬ישראל‭ ‬מדליק‭ ‬נרות‭ ‬מול‭ ‬החושך‭…
פרקי בנים

פרקי בנים

כולנו‭ ‬מכירים‭ ‬את‭ ‬פרקי‭ ‬אבות‭ ‬‮—‬‭ ‬מסכת‭ ‬של‭ ‬דרך‭ ‬ארץ‭,…
רצון-חלק ב׳

רצון-חלק ב׳

בהמשך‭ ‬לדברים‭ ‬שכתבתי‭ ‬בשבוע‭ ‬שעבר‭ ‬על‭ ‬הדרך‭ ‬לגילוי‭ ‬הרצון‭ ‬האמיתי‭…
רצון-חלק א׳

רצון-חלק א׳

יש‭ ‬משהו‭ ‬מאד‭ ‬עמוק‭ ‬ומשמעותי‭ ‬ברגע‭ ‬שבו‭ ‬אדם‭ ‬עוצר‭ ‬ומודה‭…
ספר תורה מדויק

ספר תורה מדויק

01‭ ‬ לפעמים‭ ‬השמיים‭ ‬פשוט‭ ‬מחברים‭ ‬את‭ ‬הנקודות‭ ‬בצורה‭ ‬כל‭…
מחשבה. דיבור. תודה.

מחשבה. דיבור. תודה.

לפני‭ ‬כשבוע‭ ‬פנתה‭ ‬אליי‭ ‬חברה‭ ‬של‭ ‬בתי‭ ‬וסיפרה‭ ‬לי‭ ‬על‭…
מבצע סבתא

מבצע סבתא

יש‭ ‬רגעים‭ ‬בהיסטוריה‭ ‬שבהם‭ ‬חוט‭ ‬דק‭ ‬של‭ ‬אמונה‭ ‬פשוטה‭, ‬אומץ‭…
לְפוּם צַעֲרָא אַגְרָא – לפי הצער, כך השכר

לְפוּם צַעֲרָא אַגְרָא – לפי הצער, כך השכר

חז"ל‭ ‬מלמדים‭ ‬אותנו‭ ‬שאדם‭ ‬נמדד‭ ‬לא‭ ‬לפי‭ ‬הקלות‭ ‬שבה‭ ‬השיג‭…
נגיעות של הלב

נגיעות של הלב

0יש‭ ‬רגעים‭ ‬שהחיים‭ ‬לוחשים‭ ‬לנו‭ ‬באוזן‭, ‬ויש‭ ‬רגעים‭ ‬שהם‭ ‬פשוט‭…
הכוח של התודה –מפתח לצינורות השפע

הכוח של התודה –מפתח לצינורות השפע

01‭ ‬ כבר‭ ‬כתבתי‭ ‬כן‭ ‬לא‭ ‬מעט‭ ‬על‭ ‬הכוח‭ ‬המיוחד‭…
החזרת האבדות

החזרת האבדות

01‭ ‬ לפני‭ ‬מספר‭ ‬שנים‭ ‬נסענו‭, ‬בתי‭ ‬הבכורה‭ ‬שחר‭ ‬ואני‭,…
שניאור – שני אורות לעולם

שניאור – שני אורות לעולם

השבוע‭ ‬זכיתי‭ ‬להיות‭ ‬בניחום‭ ‬אבלים‭ ‬במגדל‭ ‬העמק‭, ‬בביתו‭ ‬של‭ ‬הרב‭…
אורי שכטר

אורי שכטר

כבר‭ ‬סיפרתי‭ ‬כאן‭ ‬פעם‭ ‬על‭ ‬החברות‭ ‬שלי‭ ‬עם‭ ‬ליאור‭ ‬גרוס‭,…