Skip to content

serving server配置详解

utu edited this page Feb 27, 2020 · 5 revisions

serving-server的配置详解

serving-server的配置文件

  • serving-server.properties

     源码中的配置文件没有罗列出所有配置,只保留了必需的配置,其他配置都采用了默认值。如果需要可以根据以下表格来在配置文件中新增条目。
    

serving-server.properties

配置项 配置项含义 默认值
ip 监听ip 0.0.0.0
port 服务监听端口 8000
inferenceWorkerThreadNum 用于预测的线程池大小 机器核心数
remoteModelInferenceResultCacheSwitch 预测结果的缓存开关 true
OnlineDataAccessAdapter host端使用,一般用于获取特征,需要自定义开发 MockAdapter
InferencePostProcessingAdapter guest端使用,用于在预测结束后的后处理,默认类不做任何处理 PassPostProcessing
InferencePreProcessingAdapter guest端使用,用于在预测前的一些预处理 ,默认不做任何处理 PassPreProcessing
useRegister 使用注册中心,如果为true会将serving-server中的接口注册至zookeeper true
useZkRouter 如果为true,在rpc调用时会使用注册中心中的地址进行路由 true
zk.url zookeeper 集群地址 ,例子:zookeeper://localhost:2181?backup=localhost:2182,localhost:2183 zookeeper://localhost:2181
serviceRoleName 角色名称,该值会在接口路由时会用到,详情可参考路由表的配置 serving
modelCacheMaxSize 模型缓存最大数量 default 50
remoteModelInferenceResultCacheTTL 该参数在guest端起作用,为guest端本地内存中(非redis)缓存host端所返回结果的过期时间,单位秒 300
remoteModelInferenceResultCacheMaxSize 该参数在guest端起作用,为guest端本地内存中(非redis)缓存host端所返回结果最大条数 default 10000
inferenceResultCacheTTL 该参数在guest端起作用,代表预测结果的过期时间,单位秒 30
inferenceResultCacheCacheMaxSize 该参数在guest端起作用,为guest端本地内存中(非redis)缓存预测结果最大条数 1000
redis.ip redis ip 127.0.0.1
redis.port redis 端口 6379
redis.password redis密码 fate_dev
redis.timeout redis链接超时时间 2000
redis.maxTotal redis连接池最大数量 100
redis.maxIdle redis连接池最大空闲链接 100
external.remoteModelInferenceResultCacheTTL redis中缓存host返回结果过期时间,该参数用在guest端,单位秒 86400
external.remoteModelInferenceResultCacheDBIndex host返回数据使用的redis数据库 0
external.inferenceResultCacheTTL redis缓存预测结果的时间 300
external.inferenceResultCacheDBIndex 预测结果使用的redis数据库 0
external.processCacheDBIndex securityBoot 使用的redis数据库 0
canCacheRetcode 可以缓存结果的 returncode,当returnCode为配置中的选项时,认为该次请求可以缓存 0,102
acl.enable 是否使用zookeeper acl false
acl.username acl 用户名 默认空
acl.password acl 密码 默认空
proxy 己方serving-proxy的内部grpc地址,比如 127.0.0.1:8879,只有在不使用zk时才需要配置 默认空