首页   注册   登录
 xiaoFine 最近的时间轴更新
xiaoFine

xiaoFine

V2EX 第 114520 号会员,加入于 2015-05-01 12:23:40 +08:00
占用 GPU 的服务如何解决并发?
程序员  •  xiaoFine  •  32 天前  •  最后回复来自 kennylam777
22
Istio bookinfo 是如何做到服务发现的?
  •  1   
    Kubernetes  •  xiaoFine  •  48 天前  •  最后回复来自 xiaoFine
    2
    兼顾.Net 和 Python 的开发环境
  •  1   
    程序员  •  xiaoFine  •  289 天前  •  最后回复来自 dorothyREN
    6
    毕业生的一点烦恼:工作方向和学的不一样怎么办
    程序员  •  xiaoFine  •  2019-07-04 12:59:55 PM  •  最后回复来自 xiaoFine
    16
    xiaoFine 最近回复了
    32 天前
    回复了 xiaoFine 创建的主题 程序员 占用 GPU 的服务如何解决并发?
    @helloworld000 感谢(看来还有很多路要走
    32 天前
    回复了 xiaoFine 创建的主题 程序员 占用 GPU 的服务如何解决并发?
    @different 嗯对的,所以单纯的加显卡和优化模型可能对大量的并发请求而言是杯水车薪
    32 天前
    回复了 xiaoFine 创建的主题 程序员 占用 GPU 的服务如何解决并发?
    @tfdetang 队列转 batch 我确实没想到!感谢,我去试试
    32 天前
    回复了 xiaoFine 创建的主题 程序员 占用 GPU 的服务如何解决并发?
    @helloworld000 是的,确实是个二把刀,还请指教
    32 天前
    回复了 xiaoFine 创建的主题 程序员 占用 GPU 的服务如何解决并发?
    @andj4cn 这两个已经没法优化了
    32 天前
    回复了 xiaoFine 创建的主题 程序员 占用 GPU 的服务如何解决并发?
    @blless 对,算法端已经不能提速了,gpu 资源有限,并发一高就崩了,所以想着加个消息队列
    40 天前
    回复了 tctc4869 创建的主题 Java open jdk14,各位用哪个版本的,用的怎么样?
    考虑下中间件的兼容性吧
    44 天前
    回复了 Vegetables 创建的主题 Linux WSL 将会支持 GPU Compute workflows、 Linux GUI app
    真的能支持 gpu 就无敌了
    48 天前
    回复了 xiaoFine 创建的主题 Kubernetes Istio bookinfo 是如何做到服务发现的?
    https://discuss.istio.io/t/where-does-the-environment-variable-is-set/4710/3

    看来却是不存在那个环境变量,用的是三元表达式的 true 值
    48 天前
    回复了 xiaoFine 创建的主题 Kubernetes Istio bookinfo 是如何做到服务发现的?
    参考 jimmy 大佬的书: https://jimmysong.io/kubernetes-handbook/concepts/service.html,

    **当 Pod 运行在 Node 上,kubelet 会为每个活跃的 Service 添加一组环境变量**

    但是这些环境变量的写法是有格式的,如下:

    ```
    $ env | grep RATINGS
    RATINGS_PORT_9080_TCP_ADDR=10.233.46.167
    RATINGS_PORT_9080_TCP_PORT=9080
    RATINGS_PORT_9080_TCP_PROTO=tcp
    RATINGS_PORT=tcp://10.233.46.167:9080
    RATINGS_SERVICE_PORT=9080
    RATINGS_PORT_9080_TCP=tcp://10.233.46.167:9080
    ENABLE_RATINGS=false
    RATINGS_SERVICE_PORT_HTTP_WEB=9080
    RATINGS_SERVICE_HOST=10.233.46.167
    ```

    而实际上代码写的是:
    ```
    private final static String ratings_hostname = System.getenv("RATINGS_HOSTNAME") == null ? "ratings" : System.getenv("RATINGS_HOSTNAME");
    ```

    并不存在``RATINGS_HOSTNAME``这个东西
    关于   ·   FAQ   ·   API   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   2958 人在线   最高记录 5168   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 11:14 · PVG 19:14 · LAX 04:14 · JFK 07:14
    ♥ Do have faith in what you're doing.