Nadchodzące aktualizacje 3CX AI Server

Usprawnienia mają na celu ułatwienie wdrażania, zarządzania i skalowania AI w 3CX V20 U10.

Wraz z premierą samodzielnego serwera 3CX AI Server w wersji V20 Update 10, nadchodzące zmiany mają uczynić lokalne AI bardziej dostępnym i łatwiejszym w instalacji dla każdego.

Mniejszy stopień skomplikowania

Nadchodząca aktualizacja 3CX AI Server upraszcza następujące kwestie:

• konfigurację firewall;
• zakup sprzętu GPU;
• konfigurację FQDN i SSL dla serwera AI.

Największa zmiana: model połączenia

Najważniejsza nadchodząca zmiana ma charakter architektoniczny, a nie tylko wizualny.

W skrócie: serwer AI będzie zachowywał się jak klient; to on łączy się z centralą PBX, a nie odwrotnie. Ma to szereg zalet:

• brak konieczności posiadania certyfikatu SSL;
• brak wymogu publicznej domeny FQDN;
• brak ręcznej konfiguracji firewall;
• przejrzystszy proces instalacji, mniej podatny na błędy.

Zmiany te nie wpływają na bezpieczeństwo serwera AI, ponieważ 3CX stosuje wiele warstw zabezpieczeń w celu zapewnienia pełnego zaufania między komponentami.

macOS jako serwer AI

Jedną z najbardziej użytecznych aktualizacji będzie wsparcie dla systemu macOS. Mówiąc najprościej: możesz kupić Maca Mini i używać go jako swojego serwera AI.

To prawdziwy przełom, ponieważ nie wymaga już od Ciebie budowania specjalistycznego komputera PC, dobierania karty graficznej itd. Minimalna specyfikacja pamięci dla serwera AI opartego na macOS będzie wynosić 24 GB.

Przejrzystsze nazewnictwo dla lokalnego AI

Zmieniliśmy nazwę lokalnego AI z „3CX Transcription Engine (Installed Locally)” na „3CX AI Server”. Zrobiliśmy to, ponieważ 3CX AI Server nie służy tylko do transkrypcji; obsługuje on kilka różnych modeli AI i wykonuje zadania analizy połączeń, które wykraczają poza samo przetwarzanie mowy na tekst.

Aktualizacje statusu i monitorowania

Wraz z implementacją dla macOS i zmianami architektonicznymi, zaktualizujemy również widoki statusu i monitorowania dla serwerów AI.

Aktualizacja pokaże system operacyjny serwera oraz uproszczony podgląd monitorowania. W przypadku macOS zobaczysz zużycie GPU i ANE (Apple Neural Engine), a dla maszyn opartych na NVIDIA – zużycie RAM i VRAM.

Monitorując te przydatne parametry (Kolejka, Konwersje, Maks. liczba konwersji), administratorzy mogą zrozumieć, czy AI Server działa prawidłowo, jest obciążony, zawieszony lub ma zbyt słabe parametry względem potrzeb.

Wiele połączeń

Elastyczność nowej architektury 3CX AI Server wykroczy poza pojedynczą instalację. Dzięki zaktualizowanemu modelowi połączeń możesz zoptymalizować procesy przetwarzania AI poprzez:

• łączenie wielu serwerów AI z jedną centralą PBX;
• udostępnianie jednego serwera AI wielu centralom PBX;
• współdzielenie wielu serwerów AI pomiędzy wieloma centralami PBX w strukturze mesh.

Gwarantuje to, że Twoja konfiguracja jest zawsze dopasowana do konkretnych wymagań obciążenia.

Jeden serwer AI dla wszystkich

Nowa aktualizacja pozwoli Ci korzystać z jednego serwera AI na kilku centralach PBX. Dokładnie tak – nie potrzebujesz osobnego serwera dla każdej centrali; możesz skonfigurować jeden serwer i udostępnić go wielu systemom. Dodatkową zaletą jest to, że proces ten jest niezwykle prosty.

Rozważmy ten przykład:

• Masz centralę A i centralę B.
• Centrala A ma podłączony AI Server.
• Centrala B nie ma.

Przejdź do centrali B, dodaj AI Server przyciskiem „+ Add AI Server” (+ Dodaj serwer AI) i skopiuj wygenerowane polecenie instalacyjne:

Uruchom je na serwerze AI, z którego korzysta już centrala A. Od teraz obie centrale używają tego samego 3CX AI Server do transkrypcji.

Wiele serwerów AI dla jednej centrali

Ograniczenie liczby serwerów, które można podłączyć do jednej centrali PBX, zostanie zniesione. Liczba serwerów, z którymi możesz się połączyć, nie będzie miała praktycznych limitów, poza specyfikacją maszyn, przepustowością sieci i oczywiście samym obciążeniem.

NVIDIA lub Apple

Nowy 3CX AI Server może być wdrożony na systemach opartych na GPU NVIDIA lub na komputerach Mac:

Architektura Mac znacząco obniża próg wejścia dla OnBoard AI, podczas gdy karty graficzne NVIDIA zapewniają ogromną wydajność na pojedynczym serwerze.

• Dla średnich obciążeń (od 50 tys. do 200 tys. minut nagrań miesięcznie) Mac Mini M4 24 GB jest bardzo opłacalnym rozwiązaniem.
• Dla większych obciążeń (do około 500 tys. minut miesięcznie) najlepszym wyborem będzie pojedynczy Mac Studio M4 Max 36 GB.
• Dla obciążeń powyżej 500 tys. minut miesięcznie, system oparty na NVIDIA RTX 4090 w pełni zaspokoi Twoje potrzeby.

Możesz oczywiście skorzystać z opcji multipleksowania 3CX AI Server, aby stworzyć najlepszą kombinację systemów dla Twoich potrzeb.

Najnowsze modele AI

W nowym wydaniu wykorzystaliśmy najnowsze zmiany architektoniczne i najlepsze praktyki branżowe. Dołączyliśmy nowe modele i elementy back-endowe, które przyspieszają procesy i zmniejszają zużycie pamięci (memory footprint) systemu, pozwalając Ci wycisnąć jeszcze więcej z Twojego 3CX AI Server.

Dołącz do dyskusji

Zapraszamy do dyskusji o 3CX na naszych dedykowanych forach dla Partnerów i Klientów. Obserwuj nas na X oraz LinkedIn, aby być na bieżąco z nowościami i premierami funkcji.