Agentic AI merupakan inovasi yang sangat luar biasa di era digital ini. Teknologi ini membuat teknologi kecerdasan buatan (Artificial Intelligence / AI) berkembang melampaui sistem yang hanya bekerja secara reaktif [1]. Agentic AI sendiri Adalah sistem AI yang tersusun atas kumpulan Agent, di mana para Agent dapat dieksekusi berdasarkan orkestrasi proses yang juga dilakukan oleh AI Agent, dengan tujuan memberikan sistem kemampuan untuk membuat keputusan secara otomatis [2]. Namun, penggunaan AI Agents ini tidaklah mudah, karena developer perlu menangani optimisasi proses inference, menyiapkan dependency, serta menangani aspek scalability. Walaupun cloud service dapat digunakan, namun dalam kasus di mana data yang digunakan bersifat rahasia dan tidak boleh meninggalkan ekosistem suatu organisasi, maka deployment dari AI Agents ini harus bersifat on-premise [3].

Untuk mengatasi kesulitan instalasi AI Agent dalam lingkungan on-premise, NVIDIA, yang merupakan pioneer di bidang teknologi AI memperkenalkan sebuah solusi pada tahun 2024, yaitu NVIDIA NIM. NIM Adalah singkatan dari “NVIDIA Inference Microservices”, yaitu sejenis produk AI-model-optimization-as-a-service. NIM adalah software yang sudah dipaketkan sebagai container, di mana model AI dapat disimpan di dalamnya dan sudah dilengkapi dengan dependency yang sesuai untuk menghasilkan output secara cepat dan tepat [4]. Dengan kata lain, dalam suatu objek NIM, terdapat model AI dengan berbagai software optimisasi. Umumnya, NIM digunakan untuk menjalankan Generative AI (GenAI) secara local ataupun sebagai Application Programming Interface (API). Saat ini, NIM dapat digunakan untuk berbagai tujuan seperti document intelligence, virtual assistant, dan sebagainya.

Gambar 1. Contoh penggunaan NIM dalam NVIDIA Blueprint untuk mencari dan merangkum video [5]

NVIDIA telah menyediakan contoh utilisasi NIM sebagai sistem agents melalui “NVIDIA Blueprints”. NVIDIA Blueprints sendiri adalah AI Workflow yang menggunakan NIM sebagai agents untuk sebuah workflow linear ataupun untuk sistem Agentic AI [6]. Salah satu contoh penggunaannya adalah untuk merangkum isi sebuah video seperti yang ditunjukan pada Gambar 1. Dalam workflow tersebut 5 NIM digunakan, yaitu: cosmos-reason1-7b sebagai Vision Language Model (VLM) agent untuk menganalisis konten visual pada video, parakeet-ctc-0_6b-asr sebagai Automatic Speech Recognition (ASR) agent untuk menganalisis suara pada video, llama-3_2-nv-embedqa-1b-v2 & llama-3_2-nv-rerankqa-1b-v2 untuk komponen Retrieval-Augmented Generation (RAG), dan meta / llama-3.1-70b-instruct untuk menghasilkan respons kepada pengguna workflow. Workflow ini memungkinkan pengguna untuk bertanya kepada sistem seperti dengan Chatbot dan sistem akan merespons berdasarkan rangkuman isi video. Selain itu, masih banyak Blueprint yang dapat digunakan untuk berbagai bidang, termasuk biologi, retail, dan sebagainya, yang dapat membantu manusia dalam berbagai pekerjaan dengan mengintegrasikan NIM sebagai agents.

Penulis:

Gregorius Natanael Elwirehardja, S.Kom., M.Kom

Referensi

[1]      S. Murugesan, “The Rise of Agentic AI: Implications, Concerns, and the Path Forward,” IEEE Intell Syst, vol. 40, no. 2, pp. 8–14, 2025, doi: 10.1109/MIS.2025.3544940.

[2]      Google, “What is agentic AI?,” Google Cloud. Accessed: Oct. 29, 2025. [Online]. Available: https://cloud.google.com/discover/what-is-agentic-ai?hl=en

[3]      N. S. Gill, “Building On Prem Agentic AI Infrastructure – A Complete Guide,” Xenonstack. Accessed: Oct. 30, 2025. [Online]. Available: https://www.xenonstack.com/blog/on-prem-agentic-ai-infrastructure

[4]      NVIDIA, “NVIDIA NIM Microservices,” NVIDIA. Accessed: Oct. 31, 2025. [Online]. Available: https://www.nvidia.com/en-us/ai-data-science/products/nim-microservices/

[5]      NVIDIA, “Build a Video Search and Summarization (VSS) Agent,” NVIDIA. Accessed: Oct. 29, 2025. [Online]. Available: https://build.nvidia.com/nvidia/video-search-and-summarization/blueprintcard

[6]      J. Clayton, “Unveiling a New Era of Local AI With NVIDIA NIM Microservices and AI Blueprints,” NVIDIA. Accessed: Oct. 31, 2025. [Online]. Available: https://blogs.nvidia.com/blog/rtx-ai-garage-ces-pc-nim-blueprints/#:~:text=A Blueprint for Innovation&text=Taking things a step further,on RTX PCs and workstations.