AI 算力终端租来跑模型,计费方式怎么谈才合理?
关键是确认计费维度,因为这类设备的定价方式差别很大:有的按天算(不管你开不开机),有的按实际运行小时算,有的按任务量算。对承租方来说,按实际运行小时计最有利,尤其当你只是偶尔跑长任务;
按天计则适合连续使用的场景。谈之前需要把三件事算清楚:一是这台设备的实际算力能否满足你的任务(不同卡差别很大,光看「显存大小」不够,要看具体型号与架构);二是并行能力与排队问题,如果任务需要多卡或多台,租单台意味着串行等待,时间成本要算进去;
三是电力与散热是否需要额外条件(高功耗设备在无空调的空间可能降频甚至保护性关机)。合同里最好写明:可用算力的承诺口径、超出预期时的处置、以及能否按小时灵活停机计费。