DeepSeek . מהו בדיוק הפיתוח הסיני הטכנולוגי - כלכלי, שכה מזעזע את העולם?

לקוראינו:

ד"ר רועי צזנה הוא אינטלקטואל ציבורי וחוקר עתידים מוכר בישראל ובעולם. ד"ר צזנה מייסד ושותף של טלה-באדי – חברה המפיצה ומתחזקת רובוטי טלפרזנס משוכללים ברחבי העולם. בנוסף, הוא כתב והוציא לאור את רב המכר – "המדריך לעתיד."

תודתנו לו על האישור לפרסם מאמר זה שלו, שהינו כה חשוב להבנת הנושא שישפיע על העולם כולו.

ד"ר רועי צזנה

הסינים בנו בינה מלאכותית שלומדת לחשוב בעצמה - מה קרה, מה המשמעות, ולמה כולם בפניקה?

--------------------------

בקיצור נמרץ:

סין פיתחה מודל בינה מלאכותית מתקדם בשם DeepSeek, שמסוגל ללמוד לחשוב בכוחות עצמו ולפתור בעיות בצורה חדשנית. המודל יעיל וזול להפליא, ומשאיר את רוב המודלים המערביים מאחור. הישג זה, אליו הגיעו הסינים למרות מגבלות אמריקאיות על ייבוא שבבים, עורר סערה עולמית: אנבידיה איבדה ערך עצום, וול סטריט בהיסטריה, וכולם תוהים מה יהיו השלכות הסינגולריות הטכנולוגית שהולכת ומתקרבת.

המודל לומד חשיבה עצמאית דרך שיטות ייחודיות, ומתחיל להדגים "רגעי הברקה" לוגיים. אנו מתקדמים למעשה לעידן שבו בינות מלאכותיות ישפרו את עצמן. זה מרגש ומפחיד כאחד, שכן הטכנולוגיה עשויה לשנות את כללי המשחק הכלכליים, המדעיים והחברתיים.

אחרון חביב, בינתיים סין מוכיחה שהיא כבר לא רק חקיינית של המערב, אלא מובילה שמאיימת לשנות את מאזן הכוחות הגלובלי בתחום הבינה המלאכותית.

אבל חוץ מזה, הכל בסדר.

ועכשיו - בהרחבה.

בשבוע האחרון זירת הבינה המלאכותית חוותה זעזוע שדומה לזה שקרה כשצ'אט-GPT השתחרר לראשונה לאוויר העולם. מנכ"לים מכובדים חטפו פיק ברכיים, וולסטריט נכנסה להיסטריה, ואנבידיה איבדה יותר מ- 500 מיליארד דולרים מערכה. וכל זאת למה?

בפשטות: כי הסינים בנו את השעון המוצלח הראשון שלהם. אה, וגם בינה מלאכותית שיודעת ללמוד לחשוב בכוחות עצמה, בלי סיוע אנושי. ואולי הוכחה נוספת לכך שכבר נכנסנו לסינגולריות המובטחת, בה מכונות חכמות ימציאו את המכונות הבאות והחכמות-יותר.

אל דאגה, נסביר הכל בהמשך.

מוכנים? זו לא הולכת להיות רשומה קצרה. אבל אתם תמיד יכולים לבקש מהבינה המלאכותית לסכם אותה עבורכם.

מה בכלל קרה?

בשבוע האחרון זינק מודל סיני חדש לכל הכותרות: DeepSeek. ולא רק לכותרות. הוא עקף את צ'אט-GPT במספר ההורדות של האפליקציה. זה לא מפתיע, מכיוון שהמודל הסיני משאיר את GPT4-O ואת קלוד מאחור, ומתחרה בהצלחה אפילו במודל החזק ביותר שזמין כיום לציבור הרחב: GPT O1.

אה, ודיפסיק עושה את כל זה בעלות נמוכה להפליא בהשוואה למודלים אחרים.

איך הם עושים את זה?

התשובה היא שהסינים מצאו את הסוד לחדשנות: מחסור. כשהמשאבים שלך מועטים, אתה מחפש דרכים 'לרמות' - לעקוף את המגבלות ולמצוא פתרונות יצירתיים במיוחד. ארצות הברית מנסה בשנתיים האחרונות להגביל את הגישה של הסינים לכוח מחשוב מתקדם. הסינים, שמצאו עצמם ללא ברירה אחרת, נאלצו להמציא בינה מלאכותית שתעבוד גם בלי כוח המחשוב העצום של המערב.

ואיכשהו, זה עובד.

ובכן, לא רק "איכשהו". חברת דיפסיק פרסמה את כל השכלולים שלה בעיתונות המדעית המקוונת. בדרך זו אנחנו יכולים לדעת שהם שילבו כמה חידושים ביחד כדי להשיג חיסכון עצום בעלויות.

חלק מהחידושים לא מרגשים יותר מדיי, ומוכרים למערב כבר לפחות שנה. למשל, הם משתמשים בשיטת "תערובת מומחים". במקום להפעיל את כל מנוע הבינה המלאכותית העצום, היקר והמגושם כדי לכתוב לכם שיר בחרוזים, הסינים מפעילים 'תת-מודל' בתוך הבינה המלאכותית, שמוצלח במיוחד בשירה. רוצים לפתור חידה פיזיקלית? דיפסיק יפעיל תת-מודל שמומחה בפיזיקה. כשכמה חידושים כאלו מצטברים ביחד, הם מובילים לירידה משמעותית בעלויות.

כמה משמעותית? ובכן, דיפסיק טוענים שאימון מודל V3 שלהם דרש בערך 5.5 מיליון דולרים. לשם השוואה, מודלים מערביים ברמה דומה עולים בערך פי עשרה יותר לאימון.

נשמע בלתי-ייאמן? אני מסכים, אבל החידושים שדיפסיק הדגימו מתאימים לחומרה שהם טוענים שהשתמשו בה. אם הם היו משתמשים בחומרה מתקדמת יותר, לא היינו מצפים לראות את החידושים הללו. גם השכלולים שהם הוסיפו לתשתיות שלהם, הגיוניים רק אם המהנדסים הסיניים עבדו עם שבבים ברמה נמוכה - כפי שהם אומרים שעשו.

במילים אחרות, למרות שאני נוטה לחשוד בכל שמועה שיוצאת מסין, יש סיבה טובה להאמין שהסינים באמת הצליחו לעשות כפי שהם מספרים. ובכל מקרה, הכל בקוד פתוח ומפורסם בספרות המדעית. גם אם יש שם סילוף כלשהו, הוא יתגלה בקרוב מאד.

ומה הקשר לסינגולריות?

הסינגולריות קרבה

אין הגדרה אחת טובה לסינגולריות, וריי קורצווייל עצמו אוהב להשאיר אותה מעורפלת, כסוג של באזז-וורד שכל אחד קורא בה מה שהוא רוצה. לפי אחת ההגדרות המקובלות, זו תהיה התקופה בה מכונות חכמות (כלומר, בינות מלאכותיות) יוכלו לבנות את הדורות הבאים של עצמן, ולשפר את יכולותיהן מדור לדור. התופעה הזו מכונה גם "התפוצצות אינטיליגנציה", מכיוון שמהרגע שהתהליך מתחיל, הבינות המלאכותיות יוכלו לעבוד ולחשוב מהר יותר מבני-אדם, ולכן כל דור חדש של בינה מלאכותית יגיע מהר יותר ויותר.

הפיתוח של דיפסיק מתבסס על עקרון דומה: על זיקוק של מידע ממנועי בינה מלאכותית קיימים. ההערכה כרגע היא שבתהליך האימון שלה, דיפסיק שלחה שאלות למנועי בינה מלאכותית כמו GPT-4-O וקלוד, ואז שיפרה את עצמה לפי התשובות שקיבלה. זו, אגב, כנראה הסיבה לכך שבימים הראשונים של דיפסיק, הבינה המלאכותית נהגה לטעון שהיא בעצמה ChatGPT 4. ומה הפלא? היא למדה ממנו איך להגיב - וכך הוא הגדיר את עצמו.

האם זו הסינגולריות המובטחת? אולי. כמו כל חזון מרגש, הוא נשמע הרבה פחות מלהיב כשהוא כבר כאן, וכשאתה מבין איך בדיוק הדברים עובדים. הנקניקיה תמיד מרגישה טעימה יותר, כשאתה לא יודע איך עושים אותה. ועדיין, אי אפשר להתכחש לכך שמדובר בהדגמה לתהליך בו בינות מלאכותיות חלשות מלמדות בינות מלאכותיות חזקות. נכון, בסיוע אנושי (כי בני-האדם העמידו את כל המערכת הזו), ועדיין - סוג של סינגולריות, ותחילת "התפוצצות אינטיליגנציה".

אבל יש עוד חידוש אחד גדול של דיפסיק, והוא זה שבאמת גרם לי לעצור ולקרוא פעם ועוד פעם את הטקסט. כי הסינים הצליחו לגרום לבינה המלאכותית שלהם לעשות משהו שאף אחד אחר לא הצליח: לפתח יכולות חשיבה הגיונית - בכוחות עצמה.

למידת חיזוק

כדי להבין את הגדולה האמיתית של דיפסיק, אני צריך לעצור לרגע ולספר לכם קודם על המודל החזק ביותר ש- OpenAI מעמידה לרשות המשתמשים. זהו מודל GPT O1, שיצא לפני ארבעה חודשים בערך, והפגין לראשונה סוג של חשיבה הגיונית. כשמודל O1 צריך לפתור בעיה, הוא מפרק אותה לגורמים, בוחן אותה מכל צדדיה, מפתח לעצמו את הפרומפטים שהוא צריך כדי לשאול את עצמו שאלות עליה ולתקוף אותה מכיוונים שונים. הוא מפתח קווי חשיבה, מעלה בכל אחד מהם טיעונים שנבנים זה על זה, בוחן את הוולידיות שלהם, מצליב אותם עם קווי חשיבה אחרים, ובסוף מגיע למסקנה שמזכירה מאד את זו שבן-אדם היה מגיע אליה.

כדי להבהיר, כל זה לא עובד תמיד. מודל GPT O1 אינו מגיע עדיין לרמת החשיבה של מומחה אנושי, ולפעמים הוא עדיין שוגה. אבל הוא בכל זאת נחשב למודל 'החושב' המרשים ביותר שיש כיום.

איך OpenAI יצרו את O1? התשובה המלאה לא ידועה, אבל כנראה שהם הדגימו לבינה המלאכותית איך לחשוב. הם סיפקו לה דוגמאות רבות של קווי חשיבה שונים, והיא אימצה אותם אל לבה, למדה אותם ויישמה אותם עבור השאלות שהיא קיבלה מהמשתמשים. כלומר, האדם לימד את המכונה את ההיגיון שלו. אבל מה קורה כש- O1 מקבלת שאלה שמחייבת סוג חדש של חשיבה? במקרה הזה, היכולות שלה מתדרדרות משמעותית.

דיפסיק פעלו בצורה שונה. המהנדסים הסינים נתנו למודל שלהם בעיות מכל הסוגים, ולצידן סיפקו לו גם את התשובה הנכונה, ועודדו אותו לפתח תהליך חשיבה שיוביל לאותה תשובה. ואז הם נתנו לו לרוץ, ודירגו את תהליכי החשיבה שפיתח עבור עצמו ואת התשובות שקיבל בכל תהליך חשיבתי שכזה.

הם בעצם נתנו לו ללמוד בעצמו איך לחשוב. וזה באמת מה שקרה. המנוע המתקדם ביותר של דיפסיק - DeepSeek R1 - גילה איך לפתח קווי חשיבה יעילים יותר. הוא 'הבין' שהוא צריך להקדיש לבעיות מסוימות יותר זמן חשיבה, כדי להעריך מחדש את הגישה הראשונית עמה ניגש לבעיה. והוא אפילו אפיין את התובנות האלו בעצמו כדבר יוצא-דופן. וכפי שאפשר לראות בתיעוד שלו עצמו את "מחשבותיו", הוא מסוגל לזהות נקודות מרשימות בחשיבתו, ולהגדיר אותן כ- "רגע של הברקה" ("aha moment").

החוקרים, שצפו בעיניים פעורות במנוע מגיע לאותו "רגע של הברקה", מספרים שהם עצמם חוו "רגע של הברקה" כשהוא עשה את זה. הם ראו שהגיעו לארץ המובטחת: בינה מלאכותית שמלמדת את עצמה איך לחשוב בצורה הגיונית.

ובכן, בערך. קריאה מעמיקה יותר במאמר שפרסמו החוקרים, חושפת שהבינה המלאכותית שלימדה את עצמה איך לחשוב, עדיין נתקלה בבעיות לא-פשוטות. היה קשה לפעמים לקרוא את התשובות שלה ולהבין את ההיגיון שבהן, ולעיתים קרובות היא התחילה 'לחשוב' בסינית ועברה לאנגלית ובחזרה. ככה זה כשנותנים לתינוקות ללמוד בעצמם בלי שום הנחיה. מקבלים בלגן. היה צורך עדיין בקצת לימוד אנושי, ולכן בגרסה הבשלה של DeepSeek, המהנדסים סיפקו לה כמה קווי חשיבה מוכנים מראש - ואז נתנו לה להעמיק בהם ולפתח את כל היתר בעצמה.

כך שהבינה המלאכותית המתקדמת ביותר היום, עדיין לא פיתחה את החשיבה ההגיונית שלה לגמרי בעצמה, אבל המעורבות האנושית בתהליך הייתה מצומצמת בהרבה מכפי שהיינו מצפים. וזה מאד, מאד מרגש, מכיוון שאנחנו יכולים לצפות לכך שהבינה המלאכותית תוכל לפתח דרכי חשיבה חדשניות, יצירתיות ויעילות יותר מכל דבר שהמין האנושי המציא עד עכשיו. אופני חשיבה שיאפשרו לנו למצוא פתרונות חדשניים ויצירתיים לבעיות מדעיות וטכנולוגיות מכל הסוגים.

וכן, זה גם מאד מפחיד. אנחנו לא רוצים שהיא תמציא דרכי חשיבה שישאירו אותנו מחוץ למשוואה. אבל נרצה או לא נרצה: צריך לדעת שהעתיד שאנחנו מתקדמים אליו הוא כזה בו החשיבה של המכונה מתקדמת כמו זו של האדם - ותוך זמן קצר מכפי שציפינו, גם תעלה עליו.

אבל לא זו הסיבה שוולסטריט עברה מהפכה השבוע.

עניינים של כלכלה

האנליסט המוכשר בן תומפסון סבור שקיימות שלוש סיבות לכך ש- "כולם יוצאים מדעתם" כרגע.

הסיבה הראשונה היא ההלם - ההפתעה העצומה - מכך שסין הצליחה להשיג את המערב. נכון, זו לא צריכה להיות הפתעה גדולה כל-כך, בהינתן השקעות-הענק שסין מזרימה לבינה המלאכותית, או מספר המחקרים והפטנטים הגדול שהיא מפיקה מדי שנה. ועדיין, לא בכל יום רואים ענק קם על רגליו ומתחיל ללכת. זו התחושה שיש כרגע במערב: הענק הרדום התנודד לרגליו - ואז התחיל לרוץ.

ואף אחד לא בטוח את מי הוא ידרוס עכשיו. רק יודעים שצריך להסתכל למעלה ולכל הצדדים, כדי להבין האם לברוח או לרוץ אחריו.

הסיבה השנייה היא שהסינים הצליחו להגיע להישג המדהים הזה למרות העובדה שהאמריקנים הגבילו את הגישה שלהם לשבבים ולכוח מחשוב מתקדם. העובדה הזו גורמת לכל האנליסטים לעצור ולשאול את עצמם: האם יש טעם בכלל במגבלות המחשוב שהאמריקנים מטילים על סין? האם הממשל האמריקני ישנה את דעתו? ואם כן, מה יהיו ההשלכות על חברות השבבים? על השוק הגלובלי? על צריכת המינרלים הנחוצים לתהליכי הייצור של השבבים, ועל כל חברה וחברה בשרשראות האספקה? כל שינוי כזה יכול לעלות לבעלי-ההון במיליארדים רבים של דולרים. וכולם מפחדים.

הסיבה השלישית היא שהסינים הצליחו להעמיד את דיפסיק בעלויות מגוחכות, ומציעים את השירות שלה במחירים מצחיקים. עד כמה שאפשר לקבוע, הם לא עושים זאת בזכות סבסוד מיוחד שהם מקבלים מהממשל הסיני. המודל שלהם פשוט באמת יעיל עד כדי כך. ומכיוון שהם סיפרו לכולם איך הם עשו זאת, אפשר לצפות שכל חברת בינה מלאכותית במערב תתחיל להתייעל בצורה דומה.

למה זה חשוב? מכיוון שחברת אנבידיה הגיעה לשווי העצום שלה בהתבסס על ההנחה שיש צורך קריטי בשבבים. אחרי הכל, מנועי הבינה המלאכותית מאומנים ורצים על שבבי מחשוב מתקדמים, מהסוג שאנבידיה מייצרת. אבל מה אם צריך הרבה פחות שבבים כאלו מכפי שכולם סברו? או-אז, אנבידיה פשוט לא חשובה כמו שהאמינו שהיא תהיה. וכך איבדה החברה יותר מחצי-טריליון דולרים משוויה, תוך יום אחד בלבד.

לא מוגזם לומר שדו"חות שנכתבו במשך חודשים ארוכים, מושלכים בימים אלו לפח. וכולם מנסים להבין מהי האמת החדשה - ואיש אינו יודע.

אבל אל תדאגו לאנבידיה

חוששים לאנבידיה? לא הייתי דואג לה יותר מדיי. נכון, ייתכן בהחלט שהבינות המלאכותיות הבאות יהיו יעילות יותר, אבל עדיין יש משמעות וחשיבות גם למודלים גדולים וכבדים, כמו GPT O3 שבחודשים הקרובים ישתחרר לציבור.

לא רק זאת, אלא שכנראה שנראה בשנים הקרובות את "פרדוקס ג'בונס" בפעולה.

פרדוקס ג'בונס מתאר מצב בו טכנולוגיה הופכת להיות יעילה יותר. קחו, למשל, את המטוסים. הם הפכו להיות יעילים יותר ומזהמים פחות במאה השנים האחרונות. אבל מה קרה כתוצאה מכך? מכיוון שמחיר הטיסות ירד, אנשים בחרו לטוס יותר - ולכן יותר מטוסים המריאו לאוויר וזיהמו את כדור-הארץ יותר מאי-פעם.

אותו הדבר יקרה, בוודאי, גם עם הבינה המלאכותית. אם היא תהפוך להיות יעילה יותר, כפי שסביר שיקרה, הרי שפרדוקס ג'בונס יפעל במלוא עוצמתו. אנו נראה בינה מלאכותית משולבת בכל מקום, בכל טכנולוגיה, בכל סמארטפון, מחשב נייד, משקפיים חכמות ואריחי רצפה רציונליים. לא הייתי דואג לאנבידיה. יכול להיות שהערכת השווי המדויקת שלה אינה נכונה, אבל היא כנראה עוד תשרוד ותשגשג.

כמובן, בתנאי שהבינה המלאכותית לא תשתכלל עוד יותר ותשנה שוב את כללי המשחק. אנו חיים בתקופה של שינויים גדולים, ואיש אינו יכול לדעת בוודאות מה יילד יום.

רק דבר אחד בטוח: הסינים ייצרו עכשיו את השעון המוצלח הראשון שלהם.

על סינים ושעונים

מומחה הבינה המלאכותית קאי-פו לי, אוהב לקבל את פניהם של אורחים מהמערב כשהם מגיעים לסין. הוא לוקח אותם לסיור במדינה, ובמיוחד למוזיאון שעונים עתיקים. שם הוא מראה להם את האבולוציה של השעונים בסין. השעונים הראשונים הינם בעלי מראה מערבי מובהק, מכיוון שהם הגיעו לסין מאירופה. האירופאים היו יצרני השעונים המוכשרים ביותר באותה תקופה.

מה עשו הסינים? הקיסר קידם את הקמתן של סדנאות שענות בכל רחבי סין. השענים הסיניים הצעירים פירקו את השעונים האירופאים ולמדו אותם בקפידה. לאורך שנים של מאמץ, הם רכשו את המיומנות הנחוצה כדי לבנות שעונים חדשים משל עצמם, שהיו בעלי חזות סינית. בשנים הראשונות, השעונים הסיניים היו לא יותר מחיקוי זול וגרוע של המוצרים המערביים. אבל עם הזמן, החלו השענים הסיניים להתחרות בהצלחה בעמיתיהם האירופאים, עד שהשעונים שבנו הפכו להיות מתקדמים אפילו יותר.

בעשור האחרון היינו עדים לתופעה זו בדיוק בבינה המלאכותית. ארצות הברית הובילה את המירוץ בתחום, בזמן שהסינים למדו, התנסו וכן - גנבו וגם חיקו את ההמצאות המערביות. עכשיו, סוף סוף, סין מתחילה להעמיד המצאות משל עצמה בתחום הבינה המלאכותית, שמתחרות באלו של המערב.

ושוב, זה נפלא, וזה מרגש, וזה מפחיד מאד. מיליארד-וקצת סינים תורמים עכשיו למאמץ המחשבתי הנדרש כדי להעמיד מכונות חושבות חכמות. המשמעות היא שהשיפור בבינה המלאכותית רק ימשיך. מכיוון שאני מאמין שהבינה המלאכותית יכולה לעזור לנו לפתור את בעיות זיהום האוויר, ההתחממות הגלובלית, ההזדקנות והמחלות - אני רואה את זה כדבר חיובי.

הבעיה היא שאני לא בטוח בכלל שהסינים יעצרו שם. כן, הבינות המלאכותיות שלהם יעזרו להתמודד עם כל הבעיות הללו, ודאי, אבל הן גם עלולות לשמש לפיקוח על האזרחים. לניטור כל מילה של כל אדם בסין ובמדינות החסות שלה. הבינה המלאכותית הסינית (וכדי להיות הוגן, גם המערבית) יכולה לשמש ממשלות כדי להחניק את השיח החופשי ואת הדמוקרטיה, במקום לקדם את בריאות, חירות וכבוד האדם.

האם זה מה שיקרה? שוב - קשה לדעת. שלא לומר, בלתי אפשרי. אבל גם בלתי-אפשרי לעצור את רכבת הבינה המלאכותית בזמן שהיא מתקדמת במהירות על הפסים. נקווה שהמעצמות יצליחו למצוא את הדרך לשמור אותה על הפסים - ושלא יובילו את כולנו להתנגשות.