New-Tech Military Magazine | Q2 - 2025 | Digital Edition

HBM התוצאה היא תופעה שנקראת "קיר ה GPU שרצים על LLM " - אף אחד ממודלי ה לא יכול לבצע היסק במהירות העולה על כ טוקנים לשנייה. לדוגמה, עבור מודל 200 מיליארד 70 עם Meta – Llama 3.3 פופולרי של האופטימליים ביותר GPU פרמטרים – גם ענני טוקנים 200 לא מצליחים לעבור מהירות של לשנייה, כאשר עננים נפוצים מגיעים לפחות Cerebras טוקנים לשנייה. לעומת זאת 60 מ- טוקנים לשנייה, עם 2400 מגיע למהירות של הזמן המהיר ביותר לטוקן ראשון – לפחות מהר יותר מהענן המהיר ביותר מבוסס 30% שרץ על Llama 3.3 70 b וחצי מהזמן של GPU ענן כזה. למה היסק מהיר חשוב כל כך? לא רק הוא מאפשר חוויית משתמש מדהימה – תשובות מיידיות, אלא הוא גם מאפשר ביצוע תהליכי היסק מורכבים (ריבוי שלבי היסק לכל בקשה), ) לפרקטיים AI agents הופך סוכנים חכמים ( – כאשר כל בקשה יוצרת שרשרת של הסקות – ומאפשר תקשורת בזמן אמת, למשל קולית, הרגישה מאוד לעיכובים. דוגמאות אלו מדגימות כיצד היסק מהיר מרחיב את גבולות היישום של בינה מלאכותית גנרטיבית. לסיכום, אנו רואים כיצד עומסי העבודה החדשים

70x speed unlocks AI voice, video, agents & reasoning :4 תמונה « Cerebras Systems קרדיט:

של הבינה המלאכותית הגנרטיבית מכבידים ביישומים פרקטיים, בדומה לאופן GPU על ה שבו רשתות נוירונים בתחילת דרכן הכבידו על ) לאחר שאלו הוכתרו ל"מלכי CPU המעבדים ( פיתחה טכנולוגיה זמינה Cerebras החישוב" . ומוכחת לשימוש נרחב שמאפשרת אימון והרצה לכל יישום מעשי – במהירויות LLM של מודלי אינו מסוגל להשיג. בעת GPU ובפשטות שה תכנון כזה או אחר לתמיכה בהרצת מודלים של בינה מלאכותית או יישום ארגוני של בינה מלאכותית גנרטיבית, חשוב לקחת בחשבון את

בעלי העניין, את הערך שהם מחפשים ואיך ניתן להפיק תועלת מהאפשרויות הרחבות ביותר. מספקת את הפתרונות הנדרשים Cerebras למענה על נקודות אלו. , Cerebras מקור הכתבה הוא מחברת שוכתבה באדיבות חברת ניסקו, שותפתה של בישראל. Cerebras לפרטים נוספים ניתן לפנות למיקי קליין, miki @ nisko . co . il , 054-5550750

Save The Date 20-21.5.2025

Pavilion 1, EXPO Tel Aviv 20-21.5.2025 | 09:30-15:00

AI, Machine Learning & Machine Vision Sponsor By

• ההשתתפות באירועי ניו-טק היא לעובדי תעשיית ההיי-טק והאלקטרוניקה • הכניסה לתערוכה ללא תשלום אך נדרשת הרשמה מוקדמת ואישור החברה המארגנת

For more information and registration: www.new-techevents.com

47 l New-Tech Military Magazine