V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
haishenmao
V2EX  ›  Python

请教一个生产环境 Python 多版本管理的问题

  •  
  •   haishenmao · 2021-09-11 03:14:19 +08:00 · 3540 次点击
    这是一个创建于 1170 天前的主题,其中的信息可能已经有所发展或是发生改变。
    目前场景是这样的:
    服务需要部署在物理机上(不希望服务进容器,这个是客观限制没法变动)
    物理机均为较旧版本的 Ubuntu Server (比如 14.04 、16.04 ,可以尝试用过 deadsnake 的 ppa 里的包,是可以正常部署的)
    不能对原有的 python 环境产生破坏性,必须独立于原有的 python 环境( Ubuntu 系统工具中存在一些依赖自带 python2 、3 的工具,尝试过强制更新,会造成一些无法预料的问题)
    pip 需要独立出来 (python3.4 、3.5 能用的 pip 版本的 setuptools 不兼容较新的包,使用 Pipenv 进行包管理)


    项目使用的特性至少需要依赖于 python3.7 以上(需要用些 asyncio 的新功能),之前尝试在 14.04 3.4 的环境下使用 pipenv ( 16.04 可以正常用 pipenv ),均会有至少 python3.5 的版本要求限制,所以需要一套完全独立于系统的 python 和 pip 环境。

    项目的开发环境都是使用 pipenv+pyenv 进行多版本、pip 隔离的,所以希望尽量可以在线上使用 pipenv 。

    目前初步想法是编好一套完全独立于系统的 python 环境丢在专门的目录下,然后写一个独立的环境变量文件,启动使用 shell 脚本启动(这样内部运行时会携带进去专用指向的 python 环境参数),不知道这样是否可行?或者大家有什么更好的办法吗?
    noqwerty
        1
    noqwerty  
       2021-09-11 03:52:25 +08:00 via Android   ❤️ 1
    miniforge 解君愁
    jeeyong
        2
    jeeyong  
       2021-09-11 04:28:28 +08:00
    pyenv
    Varchar
        3
    Varchar  
       2021-09-11 06:21:56 +08:00 via iPhone
    pyenv 简单方便
    XiLingHost
        4
    XiLingHost  
       2021-09-11 08:12:18 +08:00   ❤️ 1
    docker
    ila
        5
    ila  
       2021-09-11 08:24:14 +08:00 via Android
    前面几位看清楚了条件限制吗
    nuistzhou
        6
    nuistzhou  
       2021-09-11 10:10:12 +08:00 via iPhone
    我觉得你的想法可行,pip 啥的,也可以直接去对应的目录里执行
    ClericPy
        7
    ClericPy  
       2021-09-11 11:51:50 +08:00
    之前也被这个困扰过, 所以到处找绿色版 Python 解释器... 还想过编译成可执行但是又慢又不好用就放弃了

    最后我这边还是找运维同学在专门的 prefix 目录下面装了个 Python3.8 解释器+软连接 python3.8 用, 至于环境隔离

    1. venv 基本就隔离干净了

    2. 考虑到打包又不想用 venv, 所以用的 python3.8 -m pip install -t /python_venvs/product _name -r requirements.txt 单独安装到我自己的目录里, 用的时候在 sys.path 加上它. 后来还考虑了 NAS 盘
    2.1 再后来感觉每次这么折腾有点麻烦, 有的机器还不能请求外网, 就模仿 shiv 写了个叫 zipapps 的轮子, 其实不是很复杂的东西就是把依赖都打包到 zip 文件里依靠 zipimport 和 Python 可以直接运行 zip 里的代码这两个特性把依赖打包到一块, 发布以后执行的时候依赖都带好了. 只能说凑合用了

    总之我不喜欢 docker, 现在正在往 Serverless 上迁
    walpurgis
        8
    walpurgis  
       2021-09-11 12:24:10 +08:00 via iPhone
    不希望用容器的理由是什么
    ulosggs
        9
    ulosggs  
       2021-09-11 12:29:33 +08:00
    这不是很常见的需求吗?
    anaconda
    Jwyt
        10
    Jwyt  
       2021-09-11 13:01:00 +08:00
    可以看下 github/pdm-project
    VIVVACI
        11
    VIVVACI  
       2021-09-11 13:45:42 +08:00
    我不太理解为什么一定要在物理机上面而不用容器,ipc 直接 host,服务通信也有端口映射,实在不行网络也设为 host,明明直接配置好之后拉起来就完事了。
    ClutchBear
        12
    ClutchBear  
       2021-09-11 13:56:58 +08:00
    每个项目一个 user,
    每个 user 下安装一个相应版本的 miniconda.
    这样互相没有任何干扰了
    shuimugan
        13
    shuimugan  
       2021-09-11 13:58:32 +08:00 via Android
    pyenv 每一个 python 版本安装之后就是在 home 目录存放的,在当前目录里使用绝对路径 python -m venv 就能得到一个 venv 文件夹,里面有指定的 python 版本和隔离的 pip 包。

    后续 python 和 pip 命令都使用 venv 文件夹里的,就能做到多 python 版本多 pip 包隔离了
    jaredyam
        14
    jaredyam  
       2021-09-11 18:23:36 +08:00
    事实上我相信大部分案例都是选择上容器,这样你爱咋折腾咋折腾。

    感觉你说得稍微有点乱,所以也没看出来当前面对的主要问题是什么。你起码多列举几个包管理器说说它们哪有问题啊,我现在就没看出来最基础的 venv 在你的场景里有什么问题。

    ```bash
    python -m venv .venv
    ```

    至于在项目目录下自动启动所属环境,了解下 direnv ?
    ruanimal
        15
    ruanimal  
       2021-09-11 22:59:24 +08:00
    用 miniconda 的 env 隔离吧
    haishenmao
        16
    haishenmao  
    OP
       2021-09-11 23:57:00 +08:00
    @VIVVACI #11
    @walpurgis #8
    @jaredyam #14

    简单来说就是 这个服务是 A 业务线 用来统计数据的,有且仅有这一个服务是使用 python 编写的,但是 registy 是公用的。A 业务线 有自己专用的 CI/CD 工具用来在物理机部署服务,且由内部管理而且不使用容器。
    如果按照合规的标准流程来就要给编好的 image 丢到公用的 registy 上并走一大套又臭又长的交叉审批流程,对于这种相对来说无关紧要的服务,每次发版都会非常麻烦,但是不这样做后续就不好管理。

    原则来说我也是希望这些服务都滚进容器,但是这是客观情况限制,不想掺和这些事。



    @ulosggs #9
    @ruanimal #15
    试了下这个方案 感觉还不错,谢谢解答
    xchaoinfo
        17
    xchaoinfo  
       2021-09-13 09:14:30 +08:00
    @ClericPy 赞同这个方案, 我们有项目就是用类似的方案做的
    zhengxiaowai
        18
    zhengxiaowai  
       2021-09-13 10:33:16 +08:00
    pipenv 不适用与生产环境,请使用更轻量级的 virtualenv,起码能没人会删除你代码目录下的文件
    julyclyde
        19
    julyclyde  
       2021-09-13 14:22:51 +08:00
    "python 本身“还是应该用工具来管理,确保可原样重建
    如果你仅仅是打包一个当时的版本,很快就会遇到各种外部依赖导致的问题
    calmzhu
        20
    calmzhu  
       2021-09-13 22:36:40 +08:00
    @haishenmao
    继续推荐容器,不用镜像分发,当作虚拟环境管理器就可以了。

    跑起来主进程挂个 cat.更新文件就行了。
    julyclyde
        21
    julyclyde  
       2021-09-14 14:12:07 +08:00
    @calmzhu 用 cat 主进程,那实际主进程如果故障了,容器都不会自动重启
    calmzhu
        22
    calmzhu  
       2021-09-14 18:40:44 +08:00
    @julyclyde
    都说了只当虚拟环境管理工具用,自然不包括其他功能。监控等功能按普通进程一样就可以了。
    UN2758
        23
    UN2758  
       2021-09-29 17:43:00 +08:00
    啊这,你们运维之前没接触过 conda 吗?建议弹叽叽
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2808 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 09:30 · PVG 17:30 · LAX 01:30 · JFK 04:30
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.