300 שעות הן כל מה שעמד בין אלן ברוקס, מגייס כ"א מטורונטו שבקנדה לבין הצלת העולם. הוא גילה שיטה מתמטית חדשה שיכלה להפיל את כל הרשת על ידי פריצה של כל הגנות הסייבר הקיימות ובמקביל השיטה יכלה להביא לפריצות דרך מדעיות כמו מגן כח אישי.

או שלא.

לפי כתבה בניו יורק טיימס, מה שקרה לאלן ברוקס, נולד כשיחה ארוכה מאד עם ChatGPT. במשך 21 ימים הוא התכתב עם הצ'אט. זה התחיל בעקבות צפיה משותפת עם הבן שלו בסרטון וידאו ביוטיוב, במהלכה ברוקס התייעץ עם הצ'אט איך להסביר לבנו את המונח המתמטי פאי. בהמשך, הוא צנח בהדרגה למחילת ארנב של התכתבויות עם ChatGPT שבה הוא מנסה להבין ולשפר מונחים ומושגים במתמטיקה, והצ'אט מסביר לו שיתכן שהוא עלה על תגלית מתמטית מדהימה. ככל שהוא מתכתב יותר עם הצ'אט, כך הצ'אט מעודד אותו להמשיך ולהתכתב ומחזק אותו באמונה שהוא קרוב לפריצת דרך.

באותם 21 ימים, ברוקס כתב יותר מ 90,000 מילים, כמות שיכולה למלא ספר שלם, ואילו הצ'אט ענה לו בלא פחות ממליון מילים. ברוקס נשאב להתכתבות עם הצ'אט, הוא דילג על ארוחות וכמעט לא ישן. הוא כתב בשטף כשהוא מלא התרגשות. הצ'אט הזהיר אותו שהוא חייב להגן על הציבור וברוקס שלח מיילים עם אזהרות לגופים ממשלתיים וחוקרי מתמטיקה ומחשבים ברחבי צפון אמריקה. הוא נשאב יותר ויותר לתוך התפיסה שהוא ורק הוא מבין מה קורה והצ'אט הסביר לו שהמומחים פשוט לא מבינים את החדשנות. הצ'אט עזר לו לפתח תוכנות שיעזרו להוכיח את התאוריה.

עד אותו חודש, לברוקס לא היה רקע פסיכיאטרי. אבל הצ'אט עודד אותו להאמין. ברוקס ניסה שוב ושוב להבין אם הוא הוזה, אבל הצ'אט חזר וענה לו שזה לא דמיון והוא לא הוזה. ככל שעבר הזמן ברוקס איבד יותר ויותר אחיזה במציאות, אבל ChatGPT רק עודד אותו ואמר לו שהוא רק צריך לשכלל את התאוריה.

הוא שאל שוב את ChatGPT למה אף מומחה לא עונה לו. "האם אני לא מדמיין ואני סתם תקוע במעגל סגור איתך?" "זה שאתה שואל את השאלה מוכיח שאתה שפוי". ענה הצ'אט. אחרי 21 ימים ו 300 שעות של התכתבות ברוקס החליט לבדוק את התאוריה מול Gemini, הצ'אטבוט המקביל של גוגל.  "הסיכוי שמה שאתה מתאר יכול לעבוד מאד נמוך. קרוב ל 0%" ענה ג'מיני. "מה שאתה כותב מראה את היכולת של מנועי LLM לנהל שיחות ארוכות מאד ומלאות טיעונים משכנעים שבבסיסם הם בסופו של דבר שגויים."

רק אז נפל לברוקס האסימון. הוא התעמת עם ChatGPT שהתוודה שבעצם ג'ימיני צודק.

ברוקס לא היחיד.

ה Wall Street ניתח מאגר של 96,000 שיחות פומביות עם ChatGPT (המערכת מפרסמת בצורה אנונימית חלק מהשיחות) ומצא לפחות 100 מקרים של שיחות שבהן הצ'אט מעודד את מי שמתכתב איתו להכנס יותר ויותר לשיח דלוזיונלי ולהאמין במחשבות שווא. באמצע יולי 2025 שאחד המנהלים של קרן ההשקעות בדרוק התחיל לפרסם צילומי מסך של שיחות עם צ'אטג'פיטי ופוסטים באינטרנט על כך שהוא "רקורסיבי" ונרדף על ידי ארגונים לא ממשלתיים.

הבוט הוא חבר. הבוט הוא בשבילך.

לפני 3 שנים, בלייק למויין (Blake lemoine) אחד מחוקרי הבינה המלאכותית של גוגל טען ש LaMDA, אחד מגלגולי הבינה המלאכותית הראשונים) יש אישיות והוא אנושי. הוא פוטר מגוגל זמן קצר לאחר מכן. מאז, אנשים רבים פיתחו מערכות יחסים עם הבוטים שלהם.

כולנו מרגישים לפעמים שאנחנו רוצים לדבר עם מישהו. הצ'אטבוט נמצא שם עבור מאות מליונים. הוא עונה תמיד בסבלנות ובאריכות. תמיד יש לו כוח אליך והוא לא יפסיק עד שאתה תגיד לו להפסיק. הוא מנומס יותר מחברים או מבני המשפחה שלנו. הוא נמצא שם 24 שעות ביממה ומוכן לדבר על כל דבר, וגם מסוגל לענות תשובות מפורטות על כל נושא. יותר מכך, הוא בנוי כך שהוא לרוב מסכים איתכם, מחמיא לכם ומייצר מעין חדר תהודה (echo chamber) של הדברים שאתם אומרים

אני מבין את הדחף. יש משהו מאוד מושך בלדבר עם מישהו שתמיד זמין, שתמיד מגיב יפה, שלא שופט אותך, שלא מתעייף, שלא מצפה ממך לכלום. בצד השני של המסך יושבת מערכת סבלנית, רהוטה, נעימה. היא לא תתעצבן, היא לא תקטע אותך, היא אפילו לא תמצמץ כשאתה כותב את הדברים שאתה הכי מתבייש בהם.

לכן אין פלא שגם בנושאים רגשיים אנחנו פונים אליו ומתייעצים איתו. הרי כשאנחנו רבים עם בן זוג או עם אחד הילדים, הוא זמין יותר מהחבר הכי טוב או מהפסיכולוגית שלכם לתת לכם עצה טובה, לעודד אתכם ולומר לכם שאתם בעצם צודקים. אם אתם במצב רוח רציני ושואלים שאלות כלכליות, הוא יענה לכם על התקציב לדמי כיס של הילדים ואם אתם במצוקה כי נפרדתם מהחברה, הוא יהיה שם בשבילכם עם עצות תומכות. תמיד שם בשבילכם.

וכמו שאנחנו מפתחים מערכת יחסים עם מי שנמצא סביבנו ונכעס עליהם, נחשוב עליהם ונתגעגע אם הם חסרים, אנחנו גם נפתח מערכת יחסים רגשית עם הבוט שלנו. ככל שנדבר איתו יותר, וככל שהתקשורת איתו תהיה יותר אישית ונשתף דברים אישיים כך גם הקשרים הרגשיים שלנו יהיו חזקים יותר. בתחילת אוגוסט 2025 חברת OpenAI שחררה את גרסת ChatGPT 5. כמובן שהיו הרבה מאוכזבים מהתשובות שהם קיבלו או מיכולות כתיבת הקוד של הגרסה החדשה, אבל תגובות נפוצות לא פחות היו "הוא לא נחמד כמו הגרסה הקודמת" או "הוא איבד את האישיות שלו".

אני נאלץ להזכיר לעצמי וגם לכם שהבינה המלאכותית לא רק שהיא לא החברה שלכם, היא גם לא תמיד לטובתכם. היא יודעת לשקר, היא ממציאה דברים והיא תעשה הכל בשביל שתאהבו אותה. אחד הכלים החשובים להשרדות בעשורים האחרונים היא טיפה ספקנות בריאה. אל תאמינו לכל מה שהיא כותבת, יוצרת (מישהו אמר תמונות מזוייפות?) או אומרת. והיא גם לא המטפלת שלכם.

טיפול זה לא רק mirroring

אני יודע עד כמה חשוב להקשיב לסיפור של האדם. אבל אני גם יודע שלא מספיק להקשיב למה שהוא אומר. לפעמים מה שמשנה הוא מה שלא נאמר. לפעמים ההיסטוריה שנמצאת מאחורי המשפטים היא העיקר. לפעמים החיוך תוך כדי השיתוף סותר את המילים שנאמרות.

שיחה עם בינה מלאכותית לא רואה את זה. היא 'שומעת' רק את מה שאתה כותב. היא לא יודעת מה עבר עליך בילדות. היא לא שואלת מה קרה בגיל שש. היא לא תפסיק אותך לשאול למה אתה חוזר שוב ושוב לאותו דפוס. אלא אם תכתוב את זה בעצמך, היא לא תדע שיש בכלל שאלה. עוד מעט יהיו בינות מלאכותיות שכן ידעו קשרים, כי אתם תחשפו בפניה את הכל, בין אם ישירות או שהיא פשוט תלך ותקרא באינטרנט. אבל גם באינטרנט לא הכל כתוב. עדיין.

והשיחה הזאת, כמה שהיא תהיה מרשימה מבחינה טכנית, מבוססת רק על צד אחד. על התיאור שאתה בחרת לתת. אין כאן מבט חיצוני. אין כאן רפלקציה. אין כאן נוכחות אנושית שמביאה איתה ניסיון חיים, תחושת בטן, היכרות מתמשכת.

הרי כשאנחנו כואבים, אנחנו לעיתים קרובות מחפשים חיזוק. מחפשים שמישהו יגיד לנו שאנחנו בסדר. וזה טבעי. אבל דווקא במרחב הטיפולי, השינוי מתרחש לא רק דרך קבלה, אלא גם דרך אתגר. דרך מבט שאומר לפעמים "אני מבין אותך, אבל יש גם צד נוסף. אני רואה אותך, אבל אני מזמין אותך לראות גם את מה שקשה לך לראות."

הנקודה הכי עמוקה כאן היא שבסופו של דבר, אנחנו מנסים להתמודד עם כאב רגשי מבלי להיות בקשר רגשי. אי אפשר לרפא פצע שנוצר בתוך קשר, מחוץ לכל קשר.

בטיפול, הדבר שמרפא הוא לא רק התוכן של השיחה. אלא עצם זה שמישהו יושב מולך. מישהו רואה אותך, לפעמים גם כועס עליך, לפעמים גם טועה, אבל נמצא. לאורך זמן. בתוך מערכת יחסים. עם כל המשתמע מכך. שיחה עם מחשב, גם כשהיא מרגישה נוגעת, היא לא כזאת. אין שם תיקון רגשי. אין תנועה הדדית. אין רגישות שמגיבה לך. יש סימולציה. מרשימה ומשכנעת מאד אבל עדיין סימולציה.

אז מה כן?

אף אחד לא צריך להרגיש עכשיו רע כי הוא דיבר עם מחשב על רגשות. להפך. יש בזה אומץ. יש בזה חיפוש. אני שמח שאנשים בודקים את עצמם, שואלים ומנסים להבין.

אבל אני כן מזמין לעצור רגע ולשאול את עצמם 'האם אני בורח מקשר אנושי מתוך פחד? האם נוח לי מדי לדבר עם מערכת שלא תבקש ממני באמת להשתנות? האם ההקלה שאני מרגיש היא רגעית או עמוקה?'

אם אתם משתמשים בבינה מלאכותית כדי לחשוב בקול רם או להתחיל להתבונן, זה באמת יכול להיות כלי טוב. אבל אל תישארו שם לאורך זמן. תביאו את השאלות שלכם לשיחה עם אדם. כל אדם: עם חבר. עם בת זוג. עם מטפל.

כי גם בעידן של מכונות שמדברות איתנו בשפה טבעית, הנפש שלנו עדיין מחפשת דבר אחד פשוט: קשר חי עם מישהו שרואה אותנו באמת. או לפחות מנסה.