Z-Image-Turbo INT8 — AI Playground & API - deAPI.ai
Z-Image-Turbo INT8 — AI Playground & API - deAPI.ai
2 周前
deapi.ai
[LLMs 实践] 08 LLM.int8 量化细节 （load_in_8bit）以及 bitsandbytes 库
18:12
[LLMs 实践] 08 LLM.int8 量化细节 （load_in_8bit）以及 bitsandbytes 库
已浏览 7030 次2023年7月9日
bilibili五道口纳什
2026-02-08-deepml_294_Implement_INT8_Quantization
19:04
2026-02-08-deepml_294_Implement_INT8_Quantization
已浏览 91 次3 个月之前
bilibili将军最爱的Toro
Quantization for Inference & TensorRT INT8 -- Tech Workshop at NeurIPS Expo 2018
41:00
Quantization for Inference & TensorRT INT8 -- Tech Workshop at NeurIPS Expo 2018
已浏览 1745 次2019年7月27日
bilibiliDuckHuber
62．LLM.int8是如何利用向量外积进行量化的？【每天一个宝藏问题】
3:08
62．LLM.int8是如何利用向量外积进行量化的？【每天一个宝藏问题】
已浏览 1045 次1 个月前
bilibili海安雨
Supporting INT8 Quantized Networks with Unity Sentis (Presented by Arm)
23:08
Supporting INT8 Quantized Networks with Unity Sentis (Presented by Arm)
已浏览 77 次2024年4月17日
bilibiliEIGEN_VECTOR
【LTX-Video】一键包 快到起飞的视频生成模型 int8量化模型并添加gradio界面
1:11
【LTX-Video】一键包 快到起飞的视频生成模型 int8量化模型并添加gradio界面
已浏览 2480 次2024年11月26日
bilibili十字鱼
6:27
yolo系列模型的部署、精度对齐与int8量化加速
已浏览 1.9万 次2023年6月21日
bilibili追乐大兵
6:04
模型量化五：LLM.int8() Bitsandbytes HuggingFace 默认大模型量化方法
已浏览 1万 次2024年4月30日
bilibiliRethinkFun
34:53
LLM.int8() 8位量化-论文精读
已浏览 205 次2 个月之前
bilibili姚育平
22:52
【端侧AI】YOLO11推理速度飙升400%！OpenVINO INT8 量化与预处理加速全攻略（附源码）
已浏览 1823 次4 个月之前
bilibililxmyzzs
1:26
一分钟学会 ONNX模型INT8量化
已浏览 9070 次2023年7月18日
bilibiliOpenCV学堂
8:53
一个视频搞清楚深度学习中的数值精度格式——FP32, FP16, BF16, INT8等究竟是什么
已浏览 540 次2 个月之前
bilibiliaopstudio
0:14
自己写的一个小demo,用来训练一个大模型识别猫语，量化int4 int8 支持部署到手机或任意ESP芯片， 目前缺少标注细节 欢迎加入一起玩
2 个月之前
douyin.com起子
4:27
8卡魔改2080ti版驱动通义千问，72Bint8展现30K上下文的强大语言处理能力
已浏览 1783 次2024年4月6日
bilibili门的耳朵
19:16
使用 OpenVINO 实现 RT-DETR 模型 INT8量化推理加速
已浏览 1367 次2023年11月20日
bilibili椒顔皮皮虾
33:24
【基于ZYNQ实现YOLO人脸检测】09_YOLOv3-Tiny INT8量化原理
已浏览 655 次1 个月前
bilibili开源骚客FPGA
0:40
4卡PRO6000生物科研计算服务器，支持Deepseek-V4-Flash INT8的模型部署
已浏览 1190 次1 周前
bilibili亿玖科技
LFM2-VL-1.6B INT8 by Liquid AI on Cactus (YC S25) never exceeds 231MB of peak memory usage at 4k context. Technically at any context size!1. Cactus is aggressively optimised to run on budget… | Henry Ndubuaku | 25 comments
已浏览 25 次5 个月之前
linkedin.com
2:02
12GB版3060本地运行（Int8量化）Qwen2-VL-7B-Instruct 推理速度
已浏览 2273 次2024年9月8日
bilibiliSherlock_ed
2:35
SiameseRPN C TensorRT INT8量化推理
已浏览 253 次2024年8月19日
bilibili还在入门视觉算法
5:00
大模型量化入门：IQ4、FP8、INT4 到底是什么
已浏览 2 次2 周前
bilibili全流量分级燃烧
0:58
启智01助力高校数智化转型 #启智01开发者套件 20 TOPS INT8 、12GB、20路1080P 30FPS视频解码能力、4 core*1.6 GHz,开箱即用，提供目前检测、OCR识别、图像分类/增强、语音识别、人脸识别、行人属性识别等丰富方案案例。基于昇腾，助力构建教育数智化生态。#昇腾 #昇腾ai创新大赛 #教育数智化
8 个月之前
douyin.com北京杰创科技
22:37
大语言模型推理：低精度最佳实践
已浏览 5438 次2023年8月11日
bilibiliNVIDIA英伟达
12:43
int8/fp16/bf16/tf32在AI芯片中什么作用？【AI芯片】AI计算体系06
已浏览 3.1万 次2023年3月15日
bilibiliZOMI酱
5:12
认识神经网络数据类型：FP64 FP32 FP16 FP8 BF16 INT8
已浏览 4276 次10 个月之前
bilibili及诺智路
5:29
AI 编程套餐三大骗术深度调查:降智、虚标、套壳
已浏览 615 次3 周前
bilibili寒冰巨魔9527
展开