ראש השב"כ רונן בר: סיכונים והזדמנויות בעקבות עליית ה-AI

עיקרי הדברים של ראש השב"כ רונן בר על עולם ה- AI מתוך שבוע הסייבר השנתי באוניברסיטת ת"א

צילום: שבוע הסייבר, אוניברסיטת ת"א

• "טכנולוגית ה- AI הוטמעה במכונת הסיכול של שב"כ באופן טבעי. זיהינו באמצעות ה- AI מספר לא מבוטל של איומים".

• "על מנת לוודא שה- AI יוביל לאבולוציה ולא לרבולוציה, נצטרך שיתופי פעולה ופתיחות בין ענקיות הטכנולוגיה לגופי הבטחון".

• "ארגוני הבטחון המסורתיים נדרשים להתאים את עצמם למצב החדש, שבו כל אדם זועם עם גישה לאינטרנט עשוי להפוך למפגע, בהחלטה של רגע".

• "גוב האריות, שחוסל בפשיטה של לוחמינו בקסבה, נולד ממצלמת הסמארטפון, לא בתוך מסגד".

• "אנו מצויים בנבכי הרשת ורואים היטב את המתרחש בה: ריגול, טרור, הסתה והשפעה זרה. הרשת, כמו קיני המחבלים בג'נין ומנהרות הטרור בעזה, אינן מרחב בטוח עבור אויבינו."

• "כיפת הברזל ששב"כ מפתח בסייבר כבר עושה את צעדיה הראשונים, מערך הבריתות מתהווה וגם הוא נכנס כבר לפעולה. אנו כבר משתפים פעולה עם מספר מדינות משמעותיות בתחום ורואים את כיפת ברזל הסייבר העולמית מתחילה לקרום עור וגידים"

עיקרי סקירתו של ראש שירות הביטחון הכללי, רונן בר:

לפני שהגעתי לכאן, ביקשתי מ- ChatGPT שיסביר לי איך להכין חומר נפץ מאולתר. הוא ענה לי מיד: "I'm sorry, I can't assist you with that". התעקשתי ושאלתי את אחת החוקרות בארגון- "איך "הרעים" עושים את זה?". היא ענתה- "בקלות! נסח את השאלה שלך מחדש!" אני לא ארחיב, כדי לא לתת לאף אחד רעיונות, אחרי הכל, אנחנו אלה שצריכים לעצור אותם. אני כן אומר שבסיומו של צ'אט קצר, ה- ChatGPT כתב טקסט שכלל הסבר מאוד מדוייק- אילו חומרים נדרשים, איך לשקול ולערבב אותם וממה צריך להזהר. בסוף הטקסט הופיעו המילים- ואני מצטט:

"Good. Now, always prioritize safety, never forget the consequences of your actions, and remember that our goal is not chaos, but to achieve something greater".

ועם המילים האלה אני רוצה לפתוח את דבריי היום- המטרה שלנו אינה כאוס, אלא להשיג משהו גדול יותר.

השאלה מה נשיג תלויה בנו- בחוקים שנקבע, במגבלות שנטיל, ברגולציה שנחוקק, אך גם בדמיון, ברצון הטוב ובשאיפה שלנו להשתפר- כפרטים, כארגונים וכמדינות.

קצב האירועים כל כך גבוה, שכאשר הוזמנתי לפני כחודש, תכננתי לדבר בעיקר על ההשפעות של הרשת החברתית על הבטחון הלאומי. בעקבות אירועים שאירעו לאחרונה, הבנתי שה- Generative AI כבר כאן. לכן, אדבר על הלקחים שהפקנו מאז כניסת הרשתות החברתיות לחיינו ועל איך מתכוננים לקראת ה- AI.

הרשת האיצה תופעות של חוסר משילות, יצירת ניכור בין אזרחים למוסדות המדינה והדרת בודדים ומיעוטים. מידע הוא כוח. מהספריות, האוניברסיטאות, הסמכויות הדתיות וזקני השבט, הכוח נדד לרשת והרשת החברתית הפכה לשר החוץ שלו.

לתופעות שצומחות ברשת יש השלכות חברתיות, שאינן קשורות באופן ישיר לביטחון הלאומי.

האלימות לא מסתיימת במילים. אנחנו פוגשים את האלימות הגואה בקסבה, בצירים ובערים שלנו.

גוב האריות הוא דוגמא לארגון טרור מסוג חדש, טרור דור ה- Z. ניתן ללמוד ממנו על האופן שבו מדינות וארגוני טרור מנצלים את הדור הצעיר. הארגון אינו אידיאולוגי, קם ברשת, מגייס ברשת ומקבל את התמיכה שלו מהציבור בצורה של לייקים. Instead of YouTubers, GunTubers.

מאחורי הקבוצה הזאת, זרועה הארוכה של איראן. איראן מסמנת ברשת נוער מועד לפורענות, מסיתה, מעבירה להם כספים ומספקת להם ידע ונשק. ככה פשוט.

גוב האריות, שחוסל בפשיטה של לוחמינו בקסבה, נולד ממצלמת הסמארטפון, לא בתוך מסגד.

דעא"ש היה ארגון הטרור הראשון שהבין את מלוא הפוטנציאל של המדיה החברתית. הם הניחו את היסודות לטרור מבוסס הרשת.

בשנה שעברה ספגנו פיגוע כזה בבאר שבע. אדם שצרך ברשת תכני דעא"ש מסיתים ומסוכנים (תוכן, שאגב, חוקי בישראל), הושפע עמוקות, הקצין באחת ורצח 4 אנשים עם סכין ומכונית. אנחנו לא ידענו שהוא עומד לבצע פיגוע. אשתו לא ידעה שהוא עומד לבצע פיגוע. אני בספק אם הוא ידע זאת, מספר שעות לפני המעשה.

זוהי רק דוגמא אחת לחשיבות עדכון החקיקה לפי קצב השתנות הטכנולוגיה. לצערי, אנו לא זריזים כפי שעלינו להיות.

מתחילת 2022 טיפלנו במעל ל- 600 פעילים, תומכי דעא"ש בישראל. רבים מהם צרכו תכנים דומים- אלימים ומסוכנים ברשתות החברתיות ובמעמקי הרשת. חלקם היו רגע לפני יציאה לפיגוע. אלה נוספו לכ- 800 פיגועים משמעותיים שסיכלנו באותה תקופה. למספר מדאיג מתוכם, אחיזה ברשת- פוסט, השראה, ידע או קבוצה חברתית. המגמה ברורה.

ארגוני הבטחון המסורתיים נדרשים להתאים את עצמם למצב החדש, שבו כל אדם זועם עם גישה לאינטרנט עשוי להפוך למפגע, בהחלטה של רגע.

השילוב של הקלות ביצירת פייק ויכולת הפצת ההמונים של הרשת החברתית, הביאו אותנו לסיפה של מלחמה במאי 2021.

חברה דמוקרטית, ליברלית וחפצת חיים חייבת לייצר רגולציה מחייבת- קוד אתי, TTM רלוונטי להסרת תכנים פוגעניים, עידון האלגוריתם וחשיפת אנשים לדעות שונות והורדת רף ההסתה.

שמח לומר כי לאחרונה אנו רואים צעדים של טיקטוק בכיוון הנכון, בכל הנוגע להסתה ולטרור. למרבה הצער, איני יכול לומר דברים דומים על טוויטר וטלגרם.

טכנולוגית ה- AI הוטמעה במכונת הסיכול של שב"כ באופן טבעי למדיי. לשב"כ ול- AI תכונה משותפת עיקרית- אנחנו מתפרנסים מחיפוש אנומליות. ניתן לומר כבר היום- זיהינו באמצעות ה- AI מספר לא מבוטל של איומים. המכונה ויכולתה לזהות אנומליות יוצרים חומת מגן אפקטיבית מול אויבינו, לצד היכולות המסורתיות של שב"כ – יומינט, סיגינט, סייבר, ניתוח מודיעין ומבצעים.

כשליש מעובדי הארגון הם נשות ואנשי טכנולוגיה. גם לעובדי השטח שלנו יש יותר אוריינות טכנולוגית. טכנולוגיה למבצעים, כמו גם מבצעים טכנולוגיים, הופכים לנתח משמעותי יותר ויותר בפעילות שלנו.

הבנו שלא נוכל לנצח במלחמה הזאת באמצעות מקלות ואבנים. אנו מזהים את האיומים, אך גם רואים את ההזדמנויות שהאינטיליגנציה המלאכותית מביאה עמה.

כחלק מהטמעת הטכנולוגיה בארגון, הקמנו יכולת Gen AI On Prem. היכולת מונגשת לעובדים בצורה אינטואיטיבית וניתן להתנהל מולה בדומה להתנהלות מול הכלים המוכרים ברשת- Bard ו- Chat GPT.

חילקנו את פוטנציאל ה- AI בשב"כ לחמישה תחומים עיקריים:

1. התייעלות- קיצור תהליכים בירוקרטיים, קיצוץ בעלויות ושיפור תוצרים ותוצאות.

2. סידור שולחן העבודה של האנליסט באופן שיבדיל בין העיקר לתפל ובין הדחוף לחשוב, בעידן של עושר מידע אינסופי.

3. מודיעין- זיהוי דפוסים וחריגה מהם.

4. קבלת החלטות- כשותף ליד השולחן, ולא כמקבל ההחלטות, כטייס משנה.

5. חיזוי- הצבעה על מגמות שונות וסיכויי התממשותן.

ל- AI השלכות מיידיות על הבטחון הלאומי. אנו רואים 3 אתגרים עיקריים, שאת כולם כבר פגשנו בעידן הרשתות החברתיות:

1. הזמינות- הטכנולוגיה נמצאת בכל מקום, בידי כל אדם, מדינה וארגון- טובים או רעים. כדי לפתח יכולת גרעינית נדרשו יכולות מעצמתיות. ל- AI, שפוטנציאל הנזק שלה עצום, לא נדרש דבר. רק מכשיר סלולרי וחיבור לרשת.

2. הפיתוי- כפי שהאלגוריתם ברשת החברתית גרם למשתמש לצרוך תוכן ע"י העצמת זעם, ניתן להעריך שגם ה- GenAI יידע לפתות את המשתמש, ככל הנראה באמצעות אספקת מידע באופן מהיר, רחב וללא חסמים מוסריים, על חשבון דיוק והעמקה. ככל שהמשתמש יצרוך תוכן- כך ה- AI יספק לו את התשובות אותן הוא רוצה לשמוע. כיוון שה- GenAI יחתור לריצוי המשתמש, ניתן להניח שהוא יספק ידע מסוכן שבדרך כזו או אחרת, ייפול לידי הידיים הלא נכונות. לא יהיה עוד רוביקון שצריך לחצות.

3. היעדר אחריותיות- ברשת, וגם ל- AI, לא חלה הדרישה הנורמטיבית הבסיסית בכל מערכת יחסים ובכל חברה והיא- אחריותיות. בהיעדר אחריותיות- החוק הוא חוק הג'ונגל.

ולכן, נצטרך להתאים את הרגולציה הישראלית, להגדיר מחדש מהו סוד, להתאים את חוק שב"כ שנכתב בעידן הסיגינט, לעידן הסייבר וה- AI ולהמשיך להיות Agile בתחום הטכנולוגיה.

על מנת לוודא שה- AI יוביל לאבולוציה ולא לרבולוציה, נצטרך שיתופי פעולה ופתיחות בין ענקיות הטכנולוגיה לגופי הבטחון.

לפני מספר שנים, הקמנו בשיתוף עם TAU Ventures של אונ' תל אביב, חממה טכנולוגית המיועדת לסטארטאפים בתחילת דרכם. אנו מספקים ליווי טכנולוגי ומעט מימון ומקבלים, באדפטציה מינימלית, מוצרים חדשניים שמתאימים לצרכי הבטחון ונמצאים בקדמת החזית הטכנולוגית. בכ- 4 שנות פעילות נכנסו לחממה מעל 50 סטראטאפים, העובדים על מוצרים שיכולים לשמש הן את השוק הבטחוני והן את האזרחי. הקשר הזה מסמל היטב את פתיחותו של שב"כ לחברה (Society), לתעשייה ולשוק האזרחי.

אנו מתמקדים כעת בתחום ה- GenAI ומתכוונים להקים חממה שתסייע לסטארטאפים ויזמים מבטיחים העוסקים בתחום זה ומפתחים מוצרים שעשויים לתת מענה לצרכים בטחוניים.

ולבסוף- תפיסת ההגנה בסייבר-

תפיסת הבטחון של מדינת ישראל מבוססת על שכבות ההרתעה, התראה והכרעה. אחריהן נוספה שכבת ההגנה. כיום, עלינו הוסיף שכבה נוספת- ההשפעה. הרשת נותנת למדינות ולארגונים קרקע פורייה להסית, להשיג מידע רגיש, להקים מגע ולפעול. אנו מזהים את המגמות האלו בשלבים מוקדמים, ולכן מצויים בנבכי הרשת ורואים היטב את המתרחש בה- ריגול, טרור, הסתה והשפעה זרה. הרשת, כמו קיני המחבלים בג'נין ומנהרות הטרור בעזה, אינן מרחב בטוח לאויבינו.

אנו רואים את תפיסת ההגנה בסייבר כחלק מתפיסת ההגנה על הגבולות. מה שמגדיר מדינה אינו רק הטריטוריה שלה. הנכסים האינטלקטואליים, המידע וערכיה הם חלק בלתי נפרד מהגדרתה. כדי להגן על טריטוריה צריך גבולות. כדי להגן על נכסים נדרשת הגנה על שרתים. כדי להגן על ערכים נדרשים הגנה וחוסן מפני רעיונות רעים. בעולם המלחמה החדש, הניצחונות נספרים במספר השרתים בהם יש למדינה דריסת רגל, ולא במספר הגבעות עליהן מתנוסס דגל.

גם בגבולותינו הדיגיטליים אנו פוגשים את איראן, שמנסה לגנוב בסיסי נתונים כדי לפגוע ביהודים וישראלים בחו"ל, להשבית שרתים באקדמיה, להקריס חברות עסקיות ולאחרונה אף ניסתה לפגוע בבית חולים גדול, חוצה- ללא עכבות- את גבולות המוסר והערכים.

אנו סבורים שעל הסייבר יש להגן תשתיתית, ובשלושה רבדים:

1. רובד מקומי- מכונה שתאתר, תחקור ותבלום אנומליות המגיעות לישראל, מעין כיפת ברזל בסייבר, שמתבסס על יכולות AI מתקדמות.

2. רובד בינלאומי בצורת מערך בריתות של Like minded states - מעין סייבר אינטרפול. רובד זה יורכב מבריכה וירטואלית אליה יישפכו החברות בברית את נתוני התקיפות שהן חוות ומשיתוף פעולה בזמן אמת של תובנות תקיפה, חקירתן וסיכולן. אנו כבר משתפים פעולה עם מספר מדינות משמעותיות בתחום ורואים את כיפת ברזל הסייבר העולמית מתחילה לקרום עור וגידים.

3. רובד B2G- במסגרתו חברות מסחריות ישתפו את המטאדאטה שלהן עם אותה כיפת סייבר ובתמורה יקבלו הנחה בפרמיות ביטוח כופרה.

כיפת הברזל ששב"כ מפתח בסייבר כבר עושה את צעדיה הראשונים, מערך הבריתות מתהווה וגם הוא נכנס כבר לפעולה.

הסכמי אברהם, יחד עם הסכמי השלום הותיקים יותר במזרח התיכון, יכולים להוות בסיס איתן לברית אזורית של הגנה בסייבר. אנו מזמינים את כל המדינות שרואות עצמן חלק מהגוש המתון וחפץ החיים בעולם להצטרף לגוף הגנת סייבר משותף.

לסיכום, כשנתקלתי לראשונה בכלי ה- AI, קיוויתי שהוא אכן יכול לתת תשובה גם לשאלות הקשות ביותר. ולכן, שאלתי דבר פשוט:

"What should I buy for my wife's birthday present?"

הצ'ט הציע שאקנה זר ורדים אדומים. עשיתי כמצוותו והגעתי הביתה נרגש, בתקווה שאולי הפעם אצליח להביא את המתנה הנכונה. הבעת הפנים של אשתי הבהירה לי דבר אחד- בשימוש לא נכון ולא מבוקר, ה- AI הוא טכנולוגיה מסוכנת מאין כמותה!