כשמדברים על הסכנות של בינה מלאכותית, הדמיון קופץ מיד לטרמינייטור: סקיינט, רובוטים מתקוממים, מחשבים שמשתלטים על העולם.
אבל אם תשאלו את החוקרים שעוסקים בזה ביום-יום, תגלו שאחד התרחישים שמדאיגים אותם הכי הרבה הוא הרבה פחות קולנועי והרבה יותר מוחשי: מודל AI שעוזר למישהו בלי ידע מקצועי לייצר נשק ביולוגי.
הניסוי שהפך תרופות לרעלים בשש שעות
ב-2022 חברת Collaborations Pharmaceuticals, שמפתחת תרופות בעזרת AI, הוזמנה לכנס על פיקוח נשק כימי וביולוגי.
החוקרים החליטו לנסות משהו פשוט ומטריד: במקום לבקש מהמודל שלהם להימנע ממולקולות רעילות, הם "הפכו את המתג" וביקשו ממנו לחפש אותן.
התוצאה, שפורסמה בכתב העת Nature Machine Intelligence: תוך פחות משש שעות המחשב הציע כ-40,000 מולקולות שעשויות להיות רעילות, חלקן דומות לחומרי לחימה ידועים.
אף אחת מהן לא סונתזה במעבדה, אבל המסר היה ברור: אותו כלי שמציל חיים יכול, בשינוי קטן, לעשות את ההפך.
סטודנטים, צ'טבוט ושעה אחת
שנה אחר כך, ב-2023, חוקרים מ-MIT בהובלת קווין אסוולט ערכו תרגיל: הם ביקשו מסטודנטים בלי רקע מדעי רלוונטי לשאול צ'טבוטים איך אפשר לגרום למגפה.
בתוך שעה, הצ'טבוטים הציעו ארבעה פתוגנים שעלולים לגרום למגפה, הסבירו איך אפשר לייצר אותם מ-DNA סינתטי ואפילו הצביעו על חברות שלא בהכרח בודקות הזמנות.
חשוב לדייק: זה עדיין רחוק מאוד מנשק אמיתי. אבל זה הראה שהמחסום הראשון, הידע, נעשה נמוך יותר.
מה אומר הדוח הבינלאומי הגדול
בפברואר 2026 פורסם דוח הבטיחות הבינלאומי ל-AI, בראשות זוכה פרס טיורינג יושוע בנג'יו, עם יותר מ-100 מחברים ומומחים מטעם יותר מ-30 מדינות וארגונים בינלאומיים.
הדוח קובע שמודלים כלליים כבר מסוגלים לספק מידע על פיתוח נשק ביולוגי וכימי, כולל פרטים על פתוגנים והנחיות מעבדה ברמה של מומחה.
הוא גם מציין שב-2025 כמה חברות AI השיקו מודלים עם הגנות נוספות, אחרי שהבדיקות שלהן לא הצליחו לשלול שהמודלים יכולים לסייע בפועל למתחילים לפתח נשק כזה.
ואכן, במאי 2025 חברת Anthropic הודיעה שהיא מפעילה רמת הגנה מחמירה על אחד המודלים שלה, בדיוק בגלל החשש הזה, גם בלי שהוכח שהמודל באמת מסוכן. ההיגיון פשוט: עדיף להפעיל את הבלמים מוקדם מדי מאשר מאוחר מדי.
חברות נוספות בתעשייה הכריזו בתקופה הזאת על צעדים דומים, וכיום רוב המעבדות הגדולות מפרסמות מסגרות בטיחות שמגדירות מראש באיזו רמת יכולת נדלקות אילו הגנות.
למה דווקא ביולוגיה?
יש כמה סיבות שהתחום הזה מטריד במיוחד. הראשונה היא קנה המידה: נשק ביולוגי יכול להתפשט בעצמו, ולכן גם מתקפה של אדם בודד עלולה להשפיע על מיליונים.
השנייה היא שהידע הרלוונטי הוא "דו-שימושי": אותם מחקרים שעוזרים לפתח חיסונים ותרופות יכולים, בידיים הלא נכונות, לשמש למטרה הפוכה.
והשלישית היא שהמודלים משתפרים במהירות בדיוק במיומנויות שהמדע הזה דורש, כמו קריאת מאמרים, תכנון ניסויים ופתרון תקלות במעבדה.
רגע, אז למה עוד לא קרה אסון?
כי בין מידע לנשק יש פער ענק. כדי לייצר פתוגן מסוכן צריך מעבדה, ציוד, חומרים מבוקרים, ובעיקר מיומנות ידנית שלוקח שנים לרכוש.
מחקר של מכון RAND שפורסם בתחילת 2024 לא מצא הבדל מובהק בין צוותים שתכננו מתקפה ביולוגית עם צ'טבוט לבין צוותים שעבדו רק עם האינטרנט. גם הדוח הבינלאומי מודה שקשה להעריך עד כמה המחסומים הפיזיים עדיין עוצרים. במילים אחרות: הסכנה היא לא שה-AI יבנה נשק לבד, אלא שהוא יקצר את הדרך למי שכבר מנסה.
מה עושים עם זה
הפתרונות שעל השולחן כוללים בדיקות מקדימות של מודלים לפני השקה, מסננים שחוסמים שאלות מסוכנות, פיקוח הדוק יותר על חברות שמסנתזות DNA, ושיתוף פעולה בין ממשלות. אף אחד מהם לא מושלם. הנקודה החשובה היא שהדיון על סכנות AI צריך לזוז מהמסך הגדול אל המעבדה. הרובוטים הרוצחים יכולים לחכות. הצ'טבוט שיודע יותר מדי ביולוגיה כבר כאן.