New-Tech Magazine | APR Edition - Special for New-Tech Exhibition 2025 | Digital Magazine

HBM התוצאה היא תופעה שנקראת "קיר ה GPU שרצים על LLM " - אף אחד ממודלי ה לא יכול לבצע היסק במהירות העולה על כ טוקנים לשנייה. לדוגמה, עבור מודל 200 מיליארד 70 עם Meta – Llama 3.3 פופולרי של האופטימליים ביותר GPU פרמטרים – גם ענני טוקנים 200 לא מצליחים לעבור מהירות של לשנייה, כאשר עננים נפוצים מגיעים לפחות Cerebras טוקנים לשנייה. לעומת זאת 60 מ- טוקנים לשנייה, עם 2400 מגיע למהירות של הזמן המהיר ביותר לטוקן ראשון – לפחות מהר יותר מהענן המהיר ביותר מבוסס 30% שרץ על Llama 3.3 70 b וחצי מהזמן של GPU ענן כזה. למה היסק מהיר חשוב כל כך? לא רק הוא מאפשר חוויית משתמש מדהימה – תשובות מיידיות, אלא הוא גם מאפשר ביצוע תהליכי היסק מורכבים (ריבוי שלבי היסק לכל בקשה), ) לפרקטיים AI agents הופך סוכנים חכמים ( – כאשר כל בקשה יוצרת שרשרת של הסקות – ומאפשר תקשורת בזמן אמת, למשל קולית, הרגישה מאוד לעיכובים. דוגמאות אלו מדגימות כיצד היסק מהיר מרחיב את גבולות היישום של בינה מלאכותית גנרטיבית. לסיכום, אנו רואים כיצד עומסי העבודה החדשים

70x speed unlocks AI voice, video, agents & reasoning :4 תמונה « Cerebras Systems קרדיט:

של הבינה המלאכותית הגנרטיבית מכבידים ביישומים פרקטיים, בדומה לאופן GPU על ה שבו רשתות נוירונים בתחילת דרכן הכבידו על ) לאחר שאלו הוכתרו ל"מלכי CPU המעבדים ( פיתחה טכנולוגיה זמינה Cerebras החישוב" . ומוכחת לשימוש נרחב שמאפשרת אימון והרצה לכל יישום מעשי – במהירויות LLM של מודלי אינו מסוגל להשיג. בעת GPU ובפשטות שה תכנון כזה או אחר לתמיכה בהרצת מודלים של בינה מלאכותית או יישום ארגוני של בינה מלאכותית גנרטיבית, חשוב לקחת בחשבון את

בעלי העניין, את הערך שהם מחפשים ואיך ניתן להפיק תועלת מהאפשרויות הרחבות ביותר. מספקת את הפתרונות הנדרשים Cerebras למענה על נקודות אלו. , Cerebras מקור הכתבה הוא מחברת שוכתבה באדיבות חברת ניסקו, שותפתה של בישראל. Cerebras לפרטים נוספים ניתן לפנות למיקי קליין, miki @ nisko . co . il , 054-5550750

בקרה – מומחיות גלובלית בפתרונות אוטומציה ובקרה ומתמחה באוטומציה, פנאומטיקה ובקרת זורמים 1964 • נוסדה ב- מדינות, באמצעות חברות בנות בארה״ב, 30 • פעילה גלובלית בלמעלה מ ספרד, אוסטרליה והודו, לצד רשת מפיצים רחבה לקוחות בישראל וברחבי העולם 3000 • משרתת למעלה מ • מספקת סל מוצרים רחב, כולל פיתוח פתרונות מותאמים אישית בתחומי בקרת זורמים, פיקוד ואוטומציה. ההיצע כולל סולונואידים, לוחות, פאנלים, שסתומים, בוכנות, מסילות וברגים לינארים, חיישנים ועוד • מחויבת למצוינות, קיימות ולהצלחת לקוחותיה

Tackling climate change together

1891500 מפעל ומשרד ראשי קבוצת גבע www.baccara.co.il אתר | info@baccara-geva.com מייל. | 04-6535960 טל.

35 l New-Tech Magazine