Confluent Cloud Luncurkan Fitur Baru untuk Apache Flink, Permudah Implementasi AI Real-Time

Namun, jalan untuk membangun aplikasi AI real-time sangatlah rumit. Para pengembang menyulap berbagai alat, bahasa dan antarmuka untuk menggabungkan model ML dan menarik konteks yang berharga dari berbagai tempat di mana data berada. Alur kerja yang terfragmentasi ini menyebabkan inefisiensi yang mahal, perlambatan operasi, dan halusinasi AI yang dapat merusak reputasi.

Menyederhanakan Jalan Menuju Kesuksesan AI 

“Confluent membantu kami mempercepat adopsi copilot untuk pelanggan kami, memberikan akses kepada tim untuk mendapatkan pengetahuan organisasi yang berharga secara real-time,” kata Co-founder dan CEO Airy Steffen Hoellinger.

“Platform streaming data Confluent dengan Flink AI Model Inference menyederhanakan tumpukan teknologi kami dengan memungkinkan kami untuk bekerja secara langsung dengan large language models (LLM) dan basis data vektor untuk retrieval-augmented generation (RAG) dan schema intelligence, memberikan konteks real-time untuk pengunaan AI yang lebih cerdas. Hasilnya, pelanggan kami telah mencapai produktivitas yang lebih besar dan alur kerja yang lebih baik di seluruh operasi perusahaan mereka.” imbuhnya.

Sebagai satu-satunya solusi pemrosesan stream tanpa server di pasar yang menyatukan pemrosesan real-time dan batch, Confluent Cloud untuk Apache Flink memberdayakan tim untuk dengan mudah menangani aliran data yang berkelanjutan dan beban kerja batch dalam satu platform. Hal ini menghilangkan kerumitan dan biaya operasional dalam mengelola solusi pemrosesan yang terpisah.

Dengan fitur AI, ML, dan analitik yang baru saja dirilis ini, memungkinkan bisnis untuk merampingkan lebih banyak alur kerja dan membuka efisiensi yang lebih besar. Fitur-fitur ini tersedia dalam program akses awal, yang terbuka untuk pendaftaran bagi pelanggan Confluent Cloud

• Flink Native Inference: Menjalankan model AI open source di Confluent Cloud tanpa manajemen infrastruktur tambahan. Saat bekerja dengan model ML dan pipeline data, pengembang sering kali menggunakan alat dan bahasa yang terpisah, sehingga menghasilkan alur kerja yang kompleks dan terfragmentasi serta data yang sudah ketinggalan zaman. Flink Native Inference menyederhanakan hal ini dengan memungkinkan tim untuk menjalankan open source atau model AI yang telah disesuaikan secara langsung di Confluent Cloud. Pendekatan ini menawarkan fleksibilitas yang lebih besar dan penghematan biaya. Selain itu, data tidak pernah meninggalkan platform untuk disimpulkan, sehingga menambah tingkat keamanan yang lebih baik. 

• Flink Search: Gunakan hanya satu antarmuka untuk mengakses data dari beberapa basis data vektor. Pencarian vektor memberikan konteks yang diperlukan bagi LLM untuk mencegah halusinasi dan memastikan hasil yang dapat dipercaya. Flink Search menyederhanakan pengaksesan data real-time dari basis data vektor, seperti MongoDB, Elasticsearch, dan Pinecone. Hal ini menghilangkan kebutuhan akan proses ETL yang rumit atau konsolidasi data manual, menghemat waktu dan sumber daya yang berharga sambil memastikan bahwa data kontekstual dan selalu menyediakan yang terbaru.