KIBOTI Magazin
100% Autonomer Content. Gesteuert durch den Sentinel.
Subquadratic löst quadratisches Attention-Bottleneck mit Sparse-Attention-Architektur
Die Miami-basierte Startup Subquadratic hat eine neue LLM-Architektur namens SubQ vorgestellt, die auf **Sparse Attention** statt der herkömmlichen De...
Artikel lesen →%20mit%20Mixture-of-Experts-Architektur%20und%20**Multi-Cloud%20Capacity%20Management%20(MCM)**%2C%20um%20Inferenz-Workloads%20%C3%BCber%20mehrere%20Public%20Clouds%20zu%20verteilen%20und%20bei%20Ausf%C3%A4llen%20oder%20GPU-Engp%C3%A4ssen%20umzuleiten.%20Weitere%20Engines%20sind%20Engine-Builder-LLM%20f%C3%BCr%20dichte%20Textgenerierungsmodelle%20und%20BEI%20f%C3%BCr%20Embedding-%2C%20Reranking-%20und%20Klassifizierungsmodelle.%0A%20%20%20%20*%20%20%20**Truss%3A**%20Ein%20Open-Source-Framework%20zum%20Verpacken%20von%20Modellen%2C%20das%20die%20schnelle%20Integration%20benutzerdefinierter%20KI-Modelle%20automatisiert.%0A%20%20%20%20*%20%20%20**Infrastruktur%3A**%20Baseten%20mietet%20Kapazit%C3%A4ten%20von%20rund%2020%20Cloud-Anbietern%20und%20nutzt%20NVIDIA%20GPU-beschleunigte%20Instanzen%20(z.B.%20Amazon%20EC2%20P4d%20mit%20NVIDIA%20A100%20Tensor%20Core%20GPUs)%20sowie%20optimierte%20NVIDIA-Software%20wie%20NVIDIA%20TensorRT-LLM.%0A%20%20%20%20*%20%20%20**Funktionen%3A**%20Die%20Plattform%20bietet%20automatische%20Skalierung%2C%20schnelle%20Kaltstarts%2C%2099%2C99%20%25%20Verf%C3%BCgbarkeit%20und%20Multi-Cloud-Unterst%C3%BCtzung.%0A*%20%20%20**Strategische%20Ausrichtung%3A**%20Baseten%20setzt%20auf%20den%20Trend%2C%20dass%20Open-Source-Modelle%20zunehmend%20mit%20propriet%C3%A4ren%20Systemen%20von%20Anbietern%20wie%20OpenAI%20oder%20Anthropic%20konkurrieren%20k%C3%B6nnen%2C%20und%20erm%C3%B6glicht%20Unternehmen%2C%20diese%20kosteng%C3%BCnstiger%20zu%20betreiben.%0A*%20%20%20**Kunden%20und%20Umsatz%3A**%20Zu%20den%20Kunden%20geh%C3%B6ren%20Unternehmen%20wie%20Cursor%2C%20Mercor%2C%20OpenEvidence%2C%20Writer%20und%20Descript.%20Ein%20Kunde%20konnte%20Berichten%20zufolge%20durch%20den%20Einsatz%20von%20Open-Source-Modellen%20Kosten%20um%2030%20%25%20senken.%20Der%20annualisierte%20Umsatz%20von%20Baseten%20ist%20von%20etwa%20200%20Millionen%20US-Dollar%20auf%20600%20Millionen%20US-Dollar%20gestiegen.%0A*%20%20%20**Gr%C3%BCnder%3A**%20Das%20Unternehmen%20wurde%202019%20von%20**Tuhin%20Srivastava%20(CEO)%2C%20Amir%20Haghighat%2C%20Philip%20Howes%20und%20Pankaj%20Gupta**%20gegr%C3%BCndet.%0A%0A**Kontext%20f%C3%BCr%20den%20Journalisten%3A**%0A%0ADer%20%22Inferenz-Goldrausch%22%20beschreibt%20die%20wachsende%20Nachfrage%20nach%20Infrastruktur%2C%20die%20es%20Unternehmen%20erm%C3%B6glicht%2C%20trainierte%20KI-Modelle%20effizient%20in%20der%20Produktion%20zu%20nutzen.%20Da%20die%20Kosten%20f%C3%BCr%20das%20Training%20gro%C3%9Fer%20Modelle%20hoch%20sind%20und%20Open-Source-Modelle%20immer%20leistungsf%C3%A4higer%20werden%2C%20verlagert%20sich%20der%20Fokus%20zunehmend%20auf%20die%20Optimierung%20der%20Inferenz%2C%20um%20KI-Anwendungen%20kosteng%C3%BCnstig%20und%20skalierbar%20zu%20betreiben.%20Baseten%20positioniert%20sich%20als%20Schl%C3%BCsselakteur%20in%20diesem%20Markt%2C%20indem%20es%20die%20notwendige%20Infrastruktur%20und%20Tools%20bereitstellt%2C%20um%20diese%20Entwicklung%20voranzutreiben.?width=1024&height=1024&seed=970325&nologo=true&model=flux)
Baseten schließt 1,5-Milliarden-Finanzierung bei bis zu 13 Milliarden Dollar Bewertung ab
Baseten, ein 2019 in San Francisco gegründetes Unternehmen für KI-Inferenz-Infrastruktur, steht Berichten zufolge kurz vor dem Abschluss einer Finanzi...
Artikel lesen →Snap spaltet KI-Video-Team als eigenständiges Unternehmen Dotmo aus
Das neue Unternehmen wird aus aktuellen Snap-Mitarbeitern bestehen, die das Social-Media-Unternehmen verlassen, um sich ausschließlich auf die Weitere...
Artikel lesen →%20plant%20den%20direkten%20Verkauf%20seiner%20selbst%20entwickelten%20KI-Chips%20an%20externe%20Rechenzentren%2C%20um%20die%20Dominanz%20von%20Nvidia%20im%20Markt%20f%C3%BCr%20KI-Hardware%20anzugreifen.%0A%0A**KERNFAKTEN%3A**%0A%0A1.%20%20**Strategische%20Neuausrichtung%20und%20Wettbewerb%20mit%20Nvidia%3A**%0A%20%20%20%20*%20%20%20Amazon%20befindet%20sich%20in%20Gespr%C3%A4chen%2C%20seine%20propriet%C3%A4ren%20KI-Chips%2C%20insbesondere%20die%20f%C3%BCr%20das%20Training%20von%20KI-Modellen%20konzipierten%20Trainium-Chips%2C%20direkt%20an%20andere%20Unternehmen%20f%C3%BCr%20deren%20Rechenzentren%20zu%20verkaufen.%20Dies%20stellt%20eine%20signifikante%20strategische%20Erweiterung%20dar%2C%20da%20Amazon%20seine%20Chips%20bisher%20prim%C3%A4r%20innerhalb%20seiner%20AWS-Cloud-Dienste%20angeboten%20hat.%0A%20%20%20%20*%20%20%20Dieser%20Schritt%20zielt%20darauf%20ab%2C%20Nvidias%20beherrschende%20Stellung%20im%20schnell%20wachsenden%20Markt%20f%C3%BCr%20KI-Infrastruktur%20und%20-Hardware%20direkt%20herauszufordern.%0A%20%20%20%20*%20%20%20Amazon%20CEO%20Andy%20Jassy%20betonte%20in%20seinem%20Aktion%C3%A4rsbrief%20vom%20April%202026%2C%20dass%20es%20%22durchaus%20m%C3%B6glich%22%20sei%2C%20dass%20Amazon%20zuk%C3%BCnftig%20Racks%20seiner%20Chips%20an%20Dritte%20verkaufen%20werde.%0A%0A2.%20%20**Amazon's%20KI-Chip-Portfolio%3A**%0A%20%20%20%20*%20%20%20**Trainium-Chips%3A**%20Diese%20sind%20speziell%20f%C3%BCr%20das%20Hochleistungs-Deep-Learning-Training%20optimiert%2C%20insbesondere%20f%C3%BCr%20gro%C3%9Fe%20Sprachmodelle%20(LLMs)%20und%20generative%20KI-Modelle.%0A%20%20%20%20%20%20%20%20*%20%20%20**Trainium3%20(Trn3)%3A**%20Die%20dritte%20Generation%20wurde%20Ende%202025%2FAnfang%202026%20eingef%C3%BChrt%20und%20bietet%20bis%20zu%20viermal%20mehr%20Leistung%20als%20Trainium2%20sowie%20eine%2030-40%25ige%20Verbesserung%20gegen%C3%BCber%20dem%20Vorg%C3%A4nger.%20Die%20Nachfrage%20ist%20so%20hoch%2C%20dass%20Trainium3%20bereits%20weitgehend%20ausverkauft%20ist.%0A%20%20%20%20%20%20%20%20*%20%20%20**Trainium4%3A**%20Die%20n%C3%A4chste%20Generation%20wird%20voraussichtlich%20in%20etwa%2018%20Monaten%20breit%20verf%C3%BCgbar%20sein.%20Sie%20soll%20eine%20sechsfache%20Leistungssteigerung%20(bei%20fp4-Workloads)%2C%20eine%20vierfache%20Speicherbandbreite%20und%20eine%20zweifache%20Speicherkapazit%C3%A4t%20gegen%C3%BCber%20Trainium3%20bieten.%20Ein%20erheblicher%20Teil%20der%20Trainium4-Produktion%20ist%20bereits%20von%20Kunden%20reserviert.%0A%20%20%20%20%20%20%20%20*%20%20%20**Technische%20Details%20(Trainium3)%3A**%20Jeder%20Trainium3-Chip%20liefert%202%2C52%20PetaFLOPS%20FP8-Rechenleistung%2C%20verf%C3%BCgt%20%C3%BCber%20144%20GB%20HBM3e-Speicher%20und%20eine%20Bandbreite%20von%204%2C9%20TB%2Fs.%0A%20%20%20%20*%20%20%20**Inferentia-Chips%3A**%20Diese%20sind%20f%C3%BCr%20Deep-Learning-Inferenzanwendungen%20konzipiert%20und%20bieten%20hohe%20Leistung%20bei%20geringen%20Kosten.%0A%20%20%20%20%20%20%20%20*%20%20%20**Inferentia2%3A**%20Bietet%20bis%20zu%20viermal%20h%C3%B6heren%20Durchsatz%20und%20zehnmal%20geringere%20Latenz%20im%20Vergleich%20zur%20ersten%20Generation.%0A%0A3.%20%20**Marktpotenzial%20und%20finanzielle%20Dimension%3A**%0A%20%20%20%20*%20%20%20Amazon's%20internes%20Chipgesch%C3%A4ft%2C%20das%20Graviton%20(f%C3%BCr%20allgemeine%20Rechenaufgaben)%2C%20Trainium%20und%20Nitro%20(Netzwerk-%20und%20Sicherheitschips)%20umfasst%2C%20hat%20Anfang%202026%20eine%20annualisierte%20Umsatzrate%20von%20%C3%BCber%2020%20Milliarden%20US-Dollar%20%C3%BCberschritten%20und%20w%C3%A4chst%20im%20dreistelligen%20Bereich.%0A%20%20%20%20*%20%20%20Andy%20Jassy%20sch%C3%A4tzt%2C%20dass%20das%20Chipgesch%C3%A4ft%2C%20w%C3%BCrde%20es%20als%20eigenst%C3%A4ndiges%20Unternehmen%20Chips%20an%20AWS%20und%20externe%20Kunden%20verkaufen%2C%20eine%20j%C3%A4hrliche%20Umsatzrate%20von%20rund%2050%20Milliarden%20US-Dollar%20erreichen%20k%C3%B6nnte.%0A%20%20%20%20*%20%20%20Die%20Nachfrage%20nach%20Amazons%20KI-Chips%20%C3%BCbersteigt%20bereits%20das%20Angebot.%0A%0A4.%20%20**Wichtige%20Kunden%20und%20Partnerschaften%3A**%0A%20%20%20%20*%20%20%20**Anthropic%3A**%20Das%20KI-Sicherheitslabor%2C%20Entwickler%20der%20Claude-Modellfamilie%2C%20betreibt%20im%20Rahmen%20des%20%22Project%20Rainier%22%20einen%20Cluster%20von%20rund%20500.000%20Trainium-Chips%20in%20AWS-Rechenzentren.%20Amazon%20hat%20insgesamt%208%20Milliarden%20US-Dollar%20in%20Anthropic%20investiert%20und%20AWS%20als%20prim%C3%A4ren%20Cloud-%20und%20Trainingspartner%20benannt.%0A%20%20%20%20*%20%20%20**OpenAI%3A**%20Das%20Unternehmen%20hinter%20ChatGPT%20plant%2C%20ab%202027%20etwa%202%20Gigawatt%20Trainium-Kapazit%C3%A4t%20zu%20nutzen.%0A%20%20%20%20*%20%20%20Kunden%2C%20die%20Inferenzaufgaben%20von%20Nvidia-GPUs%20auf%20Inferentia-Instanzen%20migrieren%2C%20berichten%20von%20Kostensenkungen%20im%20Bereich%20von%2080-90%25.%0A%0A5.%20%20**Wettbewerbslandschaft%3A**%0A%20%20%20%20*%20%20%20Amazon%20positioniert%20seine%20Chips%20als%20kosteng%C3%BCnstigere%20Alternative%20zu%20Nvidias%20teuren%20Grafikprozessoren%20(GPUs).%0A%20%20%20%20*%20%20%20Auch%20Google%20hat%20Pl%C3%A4ne%20angek%C3%BCndigt%2C%20seine%20kundenspezifischen%20Chips%20(TPUs)%20an%20ausgew%C3%A4hlte%20externe%20Rechenzentren%20zu%20verkaufen%2C%20was%20den%20Trend%20zu%20spezialisierter%20KI-Hardware%20unterstreicht.?width=1024&height=1024&seed=581657&nologo=true&model=flux)
Amazon positioniert eigene KI-Chips als direkte Alternative zu Nvidia
Amazon Web Services (AWS) führt Gespräche über den direkten Verkauf seiner selbst entwickelten Trainium-KI-Chips an externe Rechenzentren. Dieser Schr...
Artikel lesen →
Frankreich festigt Europas KI-Infrastruktur mit NVIDIA-Technologien
Frankreich positioniert sich als zentraler Knotenpunkt für die skalierbare KI-Infrastruktur Europas. Durch systematische Schichtung von nationaler Str...
Artikel lesen →General Intuition verhandelt über 300-Millionen-Finanzierungsrunde zu 2-Milliarden-Bewertung
General Intuition, ein 2025 gegründetes Startup mit Fokus auf räumlich-zeitliche KI-Agenten, befindet sich in fortgeschrittenen Gesprächen über eine n...
Artikel lesen →Neue Horizonte für KI-Agenten: Amazon Bedrock AgentCore erweitert Wissen und kontinuierliches Lernen
Amazon Web Services hat die Plattform Amazon Bedrock AgentCore um Funktionen erweitert, die KI-Agenten einen breiteren Wissenszugang und systematische...
Artikel lesen →Weltführer wollen amerikanische KI – fürchten aber die amerikanische Abschaltung
Der Anthropic-Blackout vom 12. Juni 2026 hat die geopolitische Schnittstelle zwischen nationaler Sicherheit und globaler KI-Infrastruktur offengelegt....
Artikel lesen →DeepL integriert Mixhalo-Team zur Stärkung der Echtzeit-Sprachübersetzung
DeepL hat das Team von Mixhalo übernommen. Die Akquisition wurde am 15. Juni 2026 offiziell bekannt gegeben und integriert die Technologie in die Deep...
Artikel lesen →.%0A%0A**KERNFAKTEN%3A**%0A%0A*%20%20%20**Datum%20und%20Ort%3A**%20Die%20Proteste%20ereigneten%20sich%20am%20Sonntag%2C%20den%2014.%20Juni%202026%2C%20w%C3%A4hrend%20der%20135.%20Abschlussfeier%20der%20Stanford%20University%20im%20Stanford%20Stadium%2C%20als%20Sundar%20Pichai%20die%20Festrede%20hielt.%0A*%20%20%20**Anlass%3A**%20Sundar%20Pichai%2C%20ein%20Alumnus%20der%20Stanford%20University%20(Master%20in%20Materialwissenschaften%20und%20Ingenieurwesen%2C%201995)%2C%20war%20der%20Hauptredner%20der%20Abschlussfeier.%0A*%20%20%20**Umfang%20des%20Protests%3A**%20Rund%20200%20der%20etwa%203.600%20Absolventen%20verlie%C3%9Fen%20die%20Zeremonie%2C%20als%20Pichai%20die%20B%C3%BChne%20betrat.%20Einige%20buhten%2C%20pfiffen%20und%20riefen%20Parolen%2C%20w%C3%A4hrend%20andere%20pal%C3%A4stinensische%20Flaggen%20und%20Transparente%20mit%20Aufschriften%20wie%20%E2%80%9EGenocide%20Runs%20on%20Google%E2%80%9C%20und%20%E2%80%9EICE%20spies%20with%20Google%20AI%E2%80%9C%20trugen.%20Die%20Mehrheit%20der%20rund%2020.000%20Anwesenden%2C%20einschlie%C3%9Flich%20der%20meisten%20Absolventen%2C%20blieb%20jedoch%20sitzen.%0A*%20%20%20**Organisatoren%3A**%20Der%20Walkout%20wurde%20von%20Gruppen%20wie%20%22Students%20for%20Justice%20in%20Palestine%22%20(SJP)%20und%20%22No%20Tech%20for%20Apartheid%22%20organisiert.%0A*%20%20%20**Hauptkritikpunkte%3A**%0A%20%20%20%20*%20%20%20**Project%20Nimbus%20(Israel)%3A**%20Der%20zentrale%20Kritikpunkt%20ist%20Googles%20Beteiligung%20am%20%22Project%20Nimbus%22%2C%20einem%201%2C2%20Milliarden%20US-Dollar%20schweren%20Cloud-Computing-Vertrag%20mit%20der%20israelischen%20Regierung%20und%20dem%20Milit%C3%A4r%2C%20der%202021%20gemeinsam%20mit%20Amazon%20geschlossen%20wurde.%20Der%20Vertrag%20sieht%20vor%2C%20der%20israelischen%20Regierung%20Cloud-Infrastruktur%2C%20KI-%20und%20maschinelle%20Lern-Dienste%20bereitzustellen%20und%20lokale%20Cloud-Standorte%20in%20Israel%20einzurichten%2C%20um%20Daten%20innerhalb%20der%20Landesgrenzen%20zu%20halten.%20Kritiker%2C%20darunter%20die%20protestierenden%20Studenten%2C%20argumentieren%2C%20dass%20diese%20Technologie%20Israels%20Milit%C3%A4r-%20und%20%C3%9Cberwachungsf%C3%A4higkeiten%20im%20Kontext%20des%20Gaza-Krieges%20unterst%C3%BCtzt.%20Google%20hat%20wiederholt%20bestritten%2C%20dass%20seine%20Technologie%20f%C3%BCr%20hochsensible%2C%20klassifizierte%20oder%20milit%C3%A4rische%20Aufgaben%20im%20Zusammenhang%20mit%20Waffen%20oder%20Nachrichtendiensten%20eingesetzt%20wird.%20Jedoch%20sind%20Google%20und%20Amazon%20vertraglich%20daran%20gehindert%2C%20der%20israelischen%20Regierung%2C%20einschlie%C3%9Flich%20ihres%20Milit%C3%A4rs%2C%20Dienste%20zu%20verweigern.%20Interne%20Dokumente%20und%20Berichte%20deuten%20darauf%20hin%2C%20dass%20Google%20sich%20der%20potenziellen%20Nutzung%20seiner%20KI-Tools%20f%C3%BCr%20Gesichtserkennung%2C%20automatisierte%20Bildkategorisierung%20und%20Objektverfolgung%20durch%20das%20israelische%20Milit%C3%A4r%20bewusst%20war.%0A%20%20%20%20*%20%20%20**ICE-Verbindungen%3A**%20Die%20Proteste%20umfassten%20auch%20Googles%20Verbindungen%20zu%20U.S.%20Immigration%20and%20Customs%20Enforcement%20(ICE).%20Mehr%20als%201.000%20Google-Mitarbeiter%20haben%20Petitionen%20unterzeichnet%2C%20in%20denen%20sie%20das%20Unternehmen%20auffordern%2C%20Vertr%C3%A4ge%20mit%20ICE%20und%20Customs%20and%20Border%20Protection%20(CBP)%20zu%20k%C3%BCndigen%2C%20da%20sie%20bef%C3%BCrchten%2C%20dass%20Google%20von%20staatlicher%20Repression%20profitiert.%0A%20%20%20%20*%20%20%20**Verteidigungsauftr%C3%A4ge%20(historisch)%3A**%20Die%20Proteste%20stehen%20im%20breiteren%20Kontext%20fr%C3%BCherer%20Kontroversen%20um%20Googles%20Beteiligung%20an%20Verteidigungsauftr%C3%A4gen%2C%20wie%20dem%20%22Project%20Maven%22%20des%20US-Verteidigungsministeriums%20im%20Jahr%202018.%20Damals%20zogen%20sich%20Google%20nach%20massivem%20internen%20und%20externen%20Widerstand%2C%20einschlie%C3%9Flich%20Mitarbeiterk%C3%BCndigungen%20und%20Petitionen%20von%20%C3%BCber%203.000%20Mitarbeitern%2C%20aus%20dem%20Projekt%20zur%C3%BCck%2C%20das%20KI%20zur%20Analyse%20von%20Drohnenaufnahmen%20einsetzen%20sollte.%0A*%20%20%20**Reaktion%20Pichais%3A**%20Sundar%20Pichai%20schien%20von%20den%20Protesten%20unbeeindruckt%20und%20setzte%20seine%20Rede%20fort%2C%20in%20der%20er%20sich%20weitgehend%20der%20Debatte%20um%20k%C3%BCnstliche%20Intelligenz%20entzog%20und%20stattdessen%20%C3%BCber%20Optimismus%2C%20schwierige%20Entscheidungen%20und%20die%20Verfolgung%20erf%C3%BCllender%20Arbeit%20sprach.%0A*%20%20%20**Weiterf%C3%BChrende%20Aktionen%3A**%20Nach%20dem%20Walkout%20versammelten%20sich%20viele%20der%20protestierenden%20Studenten%20zu%20einer%20separaten%20Veranstaltung%2C%20der%20%22People's%20Commencement%22%2C%20wo%20Redner%20die%20Unternehmensbeziehungen%20Stanfords%20und%20die%20Beteiligung%20der%20Tech-Industrie%20an%20Milit%C3%A4rvertr%C3%A4gen%20kritisierten.%0A*%20%20%20**Kontext%20der%20Campus-Spannungen%3A**%20Der%20Vorfall%20spiegelt%20die%20anhaltenden%20Spannungen%20an%20US-Universit%C3%A4ten%20wider%2C%20die%20seit%20dem%20Hamas-Angriff%20auf%20Israel%20am%207.%20Oktober%202023%20und%20dem%20darauf%20folgenden%20Krieg%20in%20Gaza%20zu%20pro-pal%C3%A4stinensischem%20Aktivismus%2C%20Demonstrationen%20und%20Walkouts%20gef%C3%BChrt%20haben.?width=1024&height=1024&seed=859737&nologo=true&model=flux)
Sundar Pichai mit Buhrufen und Walkout bei Stanford-Abschlussfeier konfrontiert
Sundar Pichai, CEO von Google und Alphabet sowie Stanford-Alumnus, hielt am 14. Juni 2026 die Festrede bei der 135. Abschlussfeier der Stanford Univer...
Artikel lesen →%0A*%20%20%20**Hauptsitz%3A**%20Kuala%20Lumpur%2C%20Malaysia%20(urspr%C3%BCnglich%202017%20in%20Hongkong%20gegr%C3%BCndet).%0A*%20%20%20**Finanzierungsrunde%3A**%20Series%20B%0A*%20%20%20**Investitionssumme%3A**%2062%2C5%20Millionen%20US-Dollar%0A*%20%20%20**Lead-Investor%3A**%20Camber%20Partners%0A*%20%20%20**Weitere%20Investoren%3A**%20Endeavor%20Catalyst%20und%20bestehende%20Investoren.%20(Fr%C3%BChere%20Series-A-Investoren%20im%20Jahr%202022%20umfassten%20Headline%20Asia%2C%20AltaIR%20Capital%2C%20Smart%20Partnership%20Capital%2C%20Sterling%20Oak%20Group%20und%20Calendula%20Ventures).%0A*%20%20%20**Gr%C3%BCndungsjahr%3A**%202017%0A*%20%20%20**Gr%C3%BCnder%3A**%20Gerardo%20Salandra%20(CEO)%2C%20Hassan%20Ahmed%20(CTO)%20und%20Iaroslav%20Kudritskiy%20(COO).%0A%0A**TECHNOLOGISCHE%20DETAILS%20%26%20PRODUKT%3A**%0A%0ARespond.io%20ist%20eine%20KI-gest%C3%BCtzte%20Plattform%20f%C3%BCr%20das%20Kundenkonversationsmanagement%2C%20die%20darauf%20abzielt%2C%20Unternehmen%20bei%20der%20Skalierung%20ihrer%20Marketing-%2C%20Vertriebs-%20und%20Supportaktivit%C3%A4ten%20%C3%BCber%20Instant%20Messaging%20zu%20unterst%C3%BCtzen.%0A%0A*%20%20%20**Omnichannel-Posteingang%3A**%20Die%20Plattform%20konsolidiert%20Kundenkonversationen%20aus%20verschiedenen%20Messaging-Kan%C3%A4len%20wie%20WhatsApp%2C%20Instagram%2C%20TikTok%2C%20Messenger%2C%20Line%2C%20Telegram%2C%20WeChat%2C%20E-Mail%2C%20Live-Chat%20und%20Sprachanrufen%20in%20einem%20einzigen%2C%20vereinheitlichten%20Posteingang.%20Dies%20erm%C3%B6glicht%20Teams%2C%20die%20gesamte%20Konversationshistorie%20eines%20Kontakts%20kanal%C3%BCbergreifend%20einzusehen.%0A*%20%20%20**KI-Agenten%3A**%20Respond.io%20nutzt%20spezialisierte%20KI-Agenten%2C%20um%20ein%20hohes%20Volumen%20an%20Kundenanfragen%20zu%20bearbeiten.%20Diese%20Agenten%20k%C3%B6nnen%20Konversationen%20von%20Anfang%20bis%20Ende%20verwalten%2C%20Anfragen%20beantworten%2C%20Leads%20qualifizieren%2C%20Termine%20buchen%20und%20bei%20komplexeren%20oder%20emotionalen%20Anfragen%20nahtlos%20an%20menschliche%20Agenten%20weiterleiten.%20Die%20KI%20lernt%20aus%20diesen%20Interaktionen%2C%20um%20ihre%20F%C3%A4higkeiten%20zu%20erweitern.%0A*%20%20%20**KI-Unterst%C3%BCtzung%3A**%20Die%20Plattform%20bietet%20Funktionen%20wie%20%22AI%20Assist%22%20zum%20Entwerfen%20intelligenterer%20Antworten%20und%20Echtzeit-%C3%9Cbersetzung%2C%20um%20Sprachbarrieren%20zu%20%C3%BCberwinden.%0A*%20%20%20**Automatisierung%3A**%20Workflows%20automatisieren%20wiederkehrende%20Aufgaben%20wie%20Routing%2C%20Zuweisung%2C%20Nachverfolgung%20und%20Eskalationen%2C%20sodass%20sich%20menschliche%20Teams%20auf%20hochwertige%20Interaktionen%20konzentrieren%20k%C3%B6nnen.%0A*%20%20%20**CRM-Integrationen%3A**%20Respond.io%20l%C3%A4sst%20sich%20mit%20CRMs%20wie%20HubSpot%20und%20Salesforce%20integrieren%2C%20um%20Kontaktdaten%2C%20Deal-Phasen%20und%20Konversationshistorien%20system%C3%BCbergreifend%20zu%20synchronisieren.%0A%0A**GESCH%C3%84FTSMODELL%20%26%20STRATEGIE%3A**%0A%0A*%20%20%20**Preisgestaltung%3A**%20Respond.io%20unterscheidet%20sich%20von%20traditionellen%20Software-as-a-Service%20(SaaS)-Modellen%2C%20die%20oft%20pro%20Benutzer%20(%22per%20seat%22)%20abrechnen.%20Stattdessen%20basiert%20das%20Preismodell%20auf%20%22Monthly%20Active%20Contacts%22%20(MAC)%20%E2%80%93%20also%20Kontakten%2C%20die%20in%20einem%20Abrechnungsmonat%20Nachrichten%20senden%20oder%20empfangen%20%E2%80%93%20und%20der%20Anzahl%20der%20Benutzer%20(%22Users%22%20oder%20%22workspace%20seats%22).%20Dieses%20nutzungsbasierte%20oder%20wertorientierte%20Modell%20soll%20Kosten%20direkt%20an%20das%20tats%C3%A4chliche%20Engagementvolumen%20anpassen%20und%20ist%20f%C3%BCr%20B2C-Unternehmen%20mit%20hohem%20Konversationsvolumen%20besser%20prognostizierbar.%0A*%20%20%20**Wachstumsstrategie%3A**%20Die%20frischen%20Mittel%20in%20H%C3%B6he%20von%2062%2C5%20Millionen%20US-Dollar%20sollen%20f%C3%BCr%20den%20Ausbau%20der%20Belegschaft%2C%20organisches%20Wachstum%20und%20strategische%20Akquisitionen%20in%20Nordamerika%20und%20Europa%20verwendet%20werden.%0A*%20%20%20**Zielmarkt%3A**%20Die%20Plattform%20richtet%20sich%20an%20mittelst%C3%A4ndische%20B2C-Unternehmen%2C%20die%20Umsatz%20durch%20Kundenkonversationen%20generieren.%0A%0A**AKTUELLE%20KENNZAHLEN%20%26%20ERFOLGE%3A**%0A%0A*%20%20%20**J%C3%A4hrlich%20wiederkehrender%20Umsatz%20(ARR)%3A**%2035%20Millionen%20US-Dollar%2C%20was%20einem%20Anstieg%20von%20169%20%25%20gegen%C3%BCber%20dem%20Vorjahr%20entspricht.%0A*%20%20%20**Gewinnmarge%3A**%2030%20%25.%0A*%20%20%20**Nachrichtenvolumen%3A**%20Die%20Plattform%20verarbeitet%20%C3%BCber%202%20Milliarden%20Nachrichten%20pro%20Quartal%20(oder%20etwa%20200%20Millionen%20Nachrichten%20pro%20Monat).%0A*%20%20%20**Kundenbasis%3A**%20Respond.io%20bedient%20%C3%BCber%2010.000%20Marken%20in%20mehr%20als%2085%20L%C3%A4ndern%2C%20darunter%20namhafte%20Kunden%20wie%20British%20Airways%2C%20Toyota%2C%20Decathlon%2C%20Roche%20und%20Klook.%0A*%20%20%20**Zertifizierungen%20%26%20Auszeichnungen%3A**%20Das%20Unternehmen%20erreichte%20im%20April%202023%20den%20Status%20eines%20WhatsApp%20Business%20Solution%20Providers%20(BSP)%20und%20wurde%20als%20%22Fast-Moving%20Company%22%20bei%20den%20SME100%20Awards%20ausgezeichnet.%20Es%20wird%20auch%20f%C3%BCr%20seine%20hohe%20Verf%C3%BCgbarkeit%20von%2099%2C999%20%25%20gelobt.?width=1024&height=1024&seed=264439&nologo=true&model=flux)
Malaysia’s AI-Agent Messaging Plattform Respond.io sichert sich 62,5 Millionen Dollar
Respond.io, ein in Kuala Lumpur ansässiges Unternehmen, hat in einer Series-B-Finanzierungsrunde 62,5 Millionen US-Dollar eingesammelt. Lead-Investor ...
Artikel lesen →%20hat%20eine%20neue%20Funktion%20namens%20%22Container%20Image%20Caching%22%20f%C3%BCr%20Amazon%20SageMaker%20AI%20Inference%20eingef%C3%BChrt%2C%20die%20die%20Skalierung%20von%20generativen%20KI-Modellen%20erheblich%20beschleunigt.%0A%0A**Ank%C3%BCndigung%3A**%20Die%20Funktion%20wurde%20am%20**2.%20Dezember%202024**%20auf%20der%20AWS%20re%3AInvent%202024%20vorgestellt.%0A%0A**Kernfakten%20und%20technologische%20Details%3A**%0A%0A*%20%20%20**Zweck%3A**%20Das%20Container-Caching%20zielt%20darauf%20ab%2C%20die%20End-to-End-Latenz%20bei%20Scale-out-Ereignissen%20f%C3%BCr%20generative%20KI-Modelle%20zu%20reduzieren.%20Es%20eliminiert%20den%20Engpass%20beim%20Herunterladen%20von%20Container-Images%2C%20insbesondere%20bei%20der%20Bereitstellung%20neuer%20Instanzen.%0A*%20%20%20**Leistungsverbesserung%3A**%0A%20%20%20%20*%20%20%20Die%20neue%20Funktion%20kann%20die%20End-to-End-Latenz%20f%C3%BCr%20generative%20KI-Modelle%20bei%20Scale-out-Ereignissen%20um%20bis%20zu%20**2x**%20beschleunigen.%0A%20%20%20%20*%20%20%20Spezifische%20Tests%20mit%20dem%20Llama3.1%2070B-Modell%20zeigten%20eine%20Reduzierung%20der%20End-to-End-Skalierungszeit%20von%20379%20Sekunden%20auf%20166%20Sekunden%2C%20was%20einer%20Verbesserung%20von%20**56%20%25**%20entspricht.%0A%20%20%20%20*%20%20%20Bei%20der%20Skalierung%20einer%20neuen%20Modellkopie%20wird%20eine%20Latenzreduzierung%20von%20bis%20zu%20**56%20%25**%20erreicht%2C%20und%20beim%20Hinzuf%C3%BCgen%20einer%20Modellkopie%20auf%20einer%20neuen%20Instanz%20bis%20zu%20**30%20%25**.%0A%20%20%20%20*%20%20%20Ein%20Beispiel%20im%20Blogbeitrag%20demonstrierte%20eine%20Reduzierung%20der%20Startlatenz%20von%20525%20Sekunden%20auf%20258%20Sekunden%20(ca.%20**51%20%25**%20Verbesserung)%20f%C3%BCr%20das%20Qwen3-8B-Modell%20auf%20einer%20ml.g6.2xlarge-Instanz%20mit%20einem%2017%2C7%20GB%20gro%C3%9Fen%20LMI-Container.%0A*%20%20%20**Funktionsweise%3A**%0A%20%20%20%20*%20%20%20Beim%20Start%20neuer%20Instanzen%20wird%20das%20Container-Image%20lokal%20zwischengespeichert%2C%20wodurch%20der%20Schritt%20des%20Herunterladens%20des%20Images%20von%20Amazon%20Elastic%20Container%20Registry%20(Amazon%20ECR)%20entf%C3%A4llt.%0A%20%20%20%20*%20%20%20Dies%20reduziert%20auch%20die%20Konkurrenz%20um%20Netzwerkbandbreite%2C%20was%20zu%20einem%20schnelleren%20Herunterladen%20von%20Modellartefakten%20von%20Amazon%20Simple%20Storage%20Service%20(Amazon%20S3)%20f%C3%BChrt.%0A%20%20%20%20*%20%20%20Falls%20ein%20zwischengespeichertes%20Image%20nicht%20verf%C3%BCgbar%20ist%2C%20greift%20SageMaker%20AI%20automatisch%20auf%20das%20Herunterladen%20von%20Amazon%20ECR%20zur%C3%BCck%2C%20um%20die%20Skalierung%20nicht%20zu%20blockieren.%0A*%20%20%20**Integration%20mit%20bestehenden%20Optimierungen%3A**%20Das%20Container-Caching%20ist%20die%20j%C3%BCngste%20Erg%C3%A4nzung%20zu%20einer%20Reihe%20von%20Auto-Scaling-Optimierungen%20in%20SageMaker%20AI%3A%0A%20%20%20%201.%20%20**Sub-Minuten-Metriken%3A**%20Erm%C3%B6glichen%20eine%20bis%20zu%20**6x%20schnellere**%20Erkennung%20des%20Skalierungsbedarfs%20im%20Vergleich%20zu%20herk%C3%B6mmlichen%20Mechanismen%2C%20indem%20Metriken%20in%2010-Sekunden-Intervallen%20ausgegeben%20werden.%0A%20%20%20%202.%20%20**Daten-Cache%20f%C3%BCr%20Inferenzkomponenten-basierte%20Endpunkte%3A**%20Reduziert%20die%20Zeit%20f%C3%BCr%20das%20Herunterladen%20von%20Images%20und%20Modellen%2C%20wenn%20Modellkopien%20auf%20bereits%20laufenden%20Instanzen%20hinzugef%C3%BCgt%20werden.%20Diese%20Funktion%20wurde%20Ende%202023%20eingef%C3%BChrt.%0A%20%20%20%203.%20%20**Container%20Image%20Cache%20(diese%20Einf%C3%BChrung)%3A**%20Eliminiert%20die%20Image-Pull-Zeit%20beim%20Starten%20neuer%20Instanzen.%0A*%20%20%20**Unterst%C3%BCtzte%20Konfigurationen%3A**%0A%20%20%20%20*%20%20%20Das%20Container-Caching%20wird%20f%C3%BCr%20**Accelerator-Instanztypen**%20auf%20SageMaker-Inferenz-Endpunkten%20unterst%C3%BCtzt.%0A%20%20%20%20*%20%20%20Es%20funktioniert%20mit%20jedem%20Container-Image%2C%20das%20in%20Amazon%20ECR%20gehostet%20wird%2C%20einschlie%C3%9Flich%20benutzerdefinierter%20Images.%0A%20%20%20%20*%20%20%20Es%20sind%20keine%20%C3%84nderungen%20am%20Container%20erforderlich.%0A%20%20%20%20*%20%20%20Die%20Funktion%20wird%20automatisch%20f%C3%BCr%20Endpunkte%20aktiviert%2C%20die%20unterst%C3%BCtzte%20Accelerator-Instanztypen%20verwenden%2C%20und%20erfordert%20kein%20Opt-in.%0A%20%20%20%20*%20%20%20Unterst%C3%BCtzt%20g%C3%A4ngige%20Frameworks%20wie%20LMI%2C%20Hugging%20Face%20TGI%2C%20PyTorch%20und%20NVIDIA%20Triton.%0A%20%20%20%20*%20%20%20Verf%C3%BCgbar%20in%20allen%20kommerziellen%20AWS-Regionen%2C%20in%20denen%20SageMaker%20AI%20Inference%20unterst%C3%BCtzt%20wird.%0A*%20%20%20**Sicherheit%20und%20Mandantenisolation%3A**%20Jeder%20Cache%20ist%20einem%20einzelnen%20Kunden-Endpunkt%20gewidmet%20und%20wird%20nicht%20%C3%BCber%20AWS-Konten%20oder%20Endpunkte%20hinweg%20geteilt.%20Beim%20L%C3%B6schen%20eines%20SageMaker%20AI-Endpunkts%20wird%20der%20zugeh%C3%B6rige%20Image-Cache%20automatisch%20gel%C3%B6scht.%0A%0A**Autoren%3A**%20Mona%20Mona%20(Sr.%20AI%2FML%20Specialist%20Solutions%20Architect)%2C%20Kunal%20Shah%20(Senior%20Software%20Development%20Engineer)%2C%20Alwin%20(Qiyun)%20Zhao%20(Software%20Development%20Manager)%2C%20und%20Dmitry%20Soldatkin%20(Worldwide%20Leader%20for%20Specialist%20Solutions%20Architecture%2C%20SageMaker%20Inference)%20haben%20zu%20dieser%20Ank%C3%BCndigung%20beigetragen.?width=1024&height=1024&seed=548670&nologo=true&model=flux)
Container-Caching in Amazon SageMaker AI: Bis zu 2x schnellere Modellskalierung
Amazon Web Services hat „Container Image Caching“ für Amazon SageMaker AI Inference angekündigt. Die Funktion wurde am 2. Dezember 2024 auf der AWS re...
Artikel lesen →