<> "The repository administrator has not yet configured an RDF license."^^ . <> . . . "COMPRESSION CHARACTERISTIC OF LLM USING PRUNING METHODS ON EDGE DEVICE"^^ . "Dengan perkembangan terbaru dalam Large Language Models (LLM), kita\r\ntelah menyaksikan peningkatan akurasi dan performa dalam berbagai tugas.\r\nMeskipun terjadi peningkatan tersebut, masih terdapat beberapa masalah terkait\r\nsumber daya komputasi, penggunaan memori, dan konsumsi energi.\r\nMasalah-masalah ini membatasi penggunaan praktis pada perangkat dengan\r\nsumber daya terbatas, seperti edge device. Untuk mengatasi hal ini, teknik\r\nkompresi model, khususnya metode pruning, telah mendapat perhatian sebagai\r\nsolusi yang efektif. Studi ini mengeksplorasi dampak dari berbagai pendekatan\r\npruning terhadap LLM. Melalui evaluasi eksperimental, kami meneliti\r\nkarakteristik efek pruning terhadap latensi inferensi, metrik performa, dan\r\nkonsumsi daya. Studi kami menyoroti tiga temuan utama: (1) Meskipun pruning\r\ndapat secara signifikan mempercepat inferensi, hasil latensi menunjukkan variasi\r\nyang besar, yang dapat menyebabkan peningkatan variabilitas dan meningkatkan\r\nlatensi TTFT tergantung pada input, sehingga dapat berdampak pada responsivitas\r\nwaktu nyata; (2) Pruning dapat mengurangi penggunaan perangkat keras hingga\r\n10% dan konsumsi daya hingga 14%, yang menunjukkan komputasi yang lebih\r\nefisien; dan (3) Pruning pada model yang lebih besar lebih efektif dibandingkan\r\ndengan pruning pada model yang sudah kecil. Temuan-temuan ini diharapkan\r\ndapat memberikan wawasan berharga untuk mengoptimalkan penerapan LLM di\r\nlingkungan dengan keterbatasan sumber daya serta meningkatkan metode pruning\r\ndi kedepannya."^^ . "2025-07-28" . . . . . . . . . . . "Universitas AMIKOM Yogyakarta"^^ . . . "Fakultas Ilmu Komputer, Universitas AMIKOM Yogyakarta"^^ . . . . . . . . <> . . "Sultan Gemilang"^^ . "Kemadi"^^ . "Sultan Gemilang Kemadi"^^ . . "Arief"^^ . "Setyanto"^^ . "Arief Setyanto"^^ . . "Universitas AMIKOM Yogyakarta"^^ . . . . . . . "COMPRESSION CHARACTERISTIC OF LLM USING PRUNING METHODS ON EDGE DEVICE (Text)"^^ . . . "COVER.pdf"^^ . . . "COMPRESSION CHARACTERISTIC OF LLM USING PRUNING METHODS ON EDGE DEVICE (Text)"^^ . . . "BAB I.pdf"^^ . . . "COMPRESSION CHARACTERISTIC OF LLM USING PRUNING METHODS ON EDGE DEVICE (Text)"^^ . . . "COMPRESSION CHARACTERISTIC OF LLM USING PRUNING METHODS ON EDGE DEVICE (Text)"^^ . . . "COMPRESSION CHARACTERISTIC OF LLM USING PRUNING METHODS ON EDGE DEVICE (Text)"^^ . . . "COMPRESSION CHARACTERISTIC OF LLM USING PRUNING METHODS ON EDGE DEVICE (Text)"^^ . . . "BAB V.pdf"^^ . . . "COMPRESSION CHARACTERISTIC OF LLM USING PRUNING METHODS ON EDGE DEVICE (Text)"^^ . . . "COMPRESSION CHARACTERISTIC OF LLM USING PRUNING METHODS ON EDGE DEVICE (Archive)"^^ . . . "COMPRESSION CHARACTERISTIC OF LLM USING PRUNING METHODS ON EDGE DEVICE (Text)"^^ . . . "COMPRESSION CHARACTERISTIC OF LLM USING PRUNING METHODS ON EDGE DEVICE (Other)"^^ . . . . . . "indexcodes.txt"^^ . . . "COMPRESSION CHARACTERISTIC OF LLM USING PRUNING METHODS ON EDGE DEVICE (Other)"^^ . . . . . "HTML Summary of #31405 \n\nCOMPRESSION CHARACTERISTIC OF LLM USING PRUNING METHODS ON EDGE DEVICE\n\n" . "text/html" . . . "004 Pemrosesan data dan ilmu komputer"@en . . . "005 Pemrograman komputer, program dan data"@en . .