Wie Embedded-Python und PIP?

**himitsu**

Ich würde den PackageManager gern benutzen, aber er hasst mich.

Gegeben: Python 3.8.10 Embedded 32-bit + Python4Delphi
Das P4D damals aus GitHub, bzw. hier aus'm Forum (nicht das Neue vom GetIt, k.A. ob es da Unterschiede gibt).

Also im Prinzip das

https://www.python.org/ftp/python/3....mbed-win32.zip als pures Verzeichnis.

(Unser Python4Delphi ist zwar bissl angepasst, damit es mit dem Embedded besser geht, weil der Entwickler vorrangig auf ein installiertes Python bedacht war, aber egal ... wir wollten einfach keine externen Abhängigkeiten, wenn z.B. der Kunde bei sich eine andere Python-Version installiert)

Und nun versuchte ich dort via PIP etwas zu "installieren".
z.B. python.exe -m pip install requests des

https://pypi.org/project/requests/
So geht das erstmal natürlich nicht, denn es fehlt ja das Modul "pip".

Für das Nachfolgende ist das Embedded (EXE oder DLL im Delphi) egal irrelevant. (unnötig aufwändig, extra noch eine Test-Anwendung in Delphi)
Die python.exe wird also erstmal als "Portable" benutzt. (macht für die Funktion keinen Unterschied)

Einige Standardsachen (Python-Scripts und Modules) liegen als *.pyc in der python38.zip, sowie als *.pyd im Verzeichnis)

PS: Ja, im Python wird ein Modul "request" mitgeliefert (python38.zip), aber benötigt wird "requests".

Versuch 1:

https://pip.pypa.io/en/stable/installation/#get-pip-py

Die

https://bootstrap.pypa.io/get-pip.py runtergeladen, ins Verzeichnis gelegt
und python.exe get-pip.py macht etwas, lädt es runter und es sieht so aus, als würde es installiert.

markieren

Code:

			Collecting pip

  Downloading pip-23.1.2-py3-none-any.whl (2.1 MB)

     ------------------------------------------------- 2.1/2.1 MB 11.9 MB/s eta 0:00:00

Collecting setuptools

  Downloading setuptools-68.0.0-py3-none-any.whl (804 kB)

     ------------------------------------------------- 804.0/804.0 kB 24.8 MB/s eta 0:00:00

Collecting wheel

  Downloading wheel-0.40.0-py3-none-any.whl (64 kB)

     ------------------------------------------------- 64.5/64.5 kB ? eta 0:00:00

Installing collected packages: wheel, setuptools, pip

  WARNING: The script wheel.exe is installed in 'C:\*****\Python3\Scripts' which is not on PATH.

  Consider adding this directory to PATH or, if you prefer to suppress this warning, use --no-warn-script-location.

  WARNING: The scripts pip.exe, pip3.8.exe and pip3.exe are installed in 'C:\*****\Python3\Scripts' which is not on PATH.

  Consider adding this directory to PATH or, if you prefer to suppress this warning, use --no-warn-script-location.

Successfully installed pip-23.1.2 setuptools-68.0.0 wheel-0.40.0

es sind in .\Scripts\ ein paar *.exe aufgetaucht
und unter .\Lib\site-packages\ Unterverzeichnisse mit den 3 runtergeladenen Modulen und weitere Dateien/Verzeichnisse von der Packageverwaltung.

aber python.exe -m pip install requests sagt immernoch, dass es kein PIP gäbe.

Zitat:

python.exe: No module named pip

sowie auch .\Scripts\pip.exe sagt das Gleiche.

Zitat:

ModuleNotFoundError: No module named 'pip'

So, also nun Versuch 2: ebenfalls

https://pip.pypa.io/en/stable/installation/#get-pip-py

Die

https://bootstrap.pypa.io/pip/pip.pyz runterladen
und python.exe pip.pyz install requests

markieren

Code:

			Collecting requests

  Downloading requests-2.31.0-py3-none-any.whl (62 kB)

     ------------------------------------------------- 62.6/62.6 kB 1.6 MB/s eta 0:00:00

Collecting charset-normalizer<4,>=2 (from requests)

  Downloading charset_normalizer-3.2.0-cp38-cp38-win32.whl (89 kB)

     ------------------------------------------------- 89.4/89.4 kB 2.6 MB/s eta 0:00:00

Collecting idna<4,>=2.5 (from requests)

  Downloading idna-3.4-py3-none-any.whl (61 kB)

     ------------------------------------------------- 61.5/61.5 kB 814.3 kB/s eta 0:00:00

Collecting urllib3<3,>=1.21.1 (from requests)

  Downloading urllib3-2.0.3-py3-none-any.whl (123 kB)

     ------------------------------------------------- 123.6/123.6 kB 3.7 MB/s eta 0:00:00

Collecting certifi>=2017.4.17 (from requests)

  Downloading certifi-2023.5.7-py3-none-any.whl (156 kB)

     ------------------------------------------------- 157.0/157.0 kB 2.3 MB/s eta 0:00:00

Installing collected packages: urllib3, idna, charset-normalizer, certifi, requests

  WARNING: The script normalizer.exe is installed in 'C:\*****\Scripts' which is not on PATH.

  Consider adding this directory to PATH or, if you prefer to suppress this warning, use --no-warn-script-location.

Successfully installed certifi-2023.5.7 charset-normalizer-3.2.0 idna-3.4 requests-2.31.0 urllib3-2.0.3

Hier wird "scheinbar" auch das Gewünschte runtergeladen,
also in .\Scripts\ eine *.exe
und unter .\Lib\site-packages\ das "requests" und dessen Requires (certifi, charset_normalizer, idna und urllib3).

Aber es geht dann dennoch nicht, also wird nicht gefunden.

Dann jetzt mal Testen. (Anhand dem 2. Versuch)
Per Parameter, aber ginge auch als PY-Script.

python -c "print('example')"
oder
print('example') als test.py und python test.py
perfekt
und es gibt auch schön das example aus.

Mit einem Modul (aus der python38.zip) geht's auch.
python -c "import uuid; print(uuid.uuid4())" => 5d6615d3-b65e-467c-b6ca-dfbf6fe7f874

Ebenfalls mit einem Modul von außerhalb. ( _hashlib.pyd im Verzeichnis, nicht hashlib.pyc aus der python38.zip )
python -c "import _hashlib; print(_hashlib.openssl_md5('aaa'.encode('utf-8')).hexdigest())" => 47bce5c74f589f4867dbd57e9ca9f808

Nun aber unser neues Modul.
python -c "import requests" ergibt das bekannte Bild

Zitat:

ModuleNotFoundError: No module named 'requests'

Die Hilfe war auch keine Hilfe.

https://docs.python.org/3/reference/import.html
python -c "import Lib.site-packages.requests" will dennoch nicht, denn es mag keine - und ' oder " in sonstwelchen Varianten ändert sowieso nichts.
Außerdem wäre es eh blöd, was IMPORTs in Fremd-Komponenten anginge.

Die Modul-Verzeichnisse von .\Lib\site-packages\ direkt ins Python-Verzeichnis . verschoben/kopiert geht zwar,
python -c "import requests; r=requests.get('https://github.com/timeline.json'); print(r.status_code,' ',r.text)"
aber da könnte ich mir das PIP doch auch sparen und diese Module/Verzeichnisse manuell runterladen.

**Phoenix**

Schau Dir mal das Konzept von virtuellen Environments bei Python an.

Solange Du nicht explizit in einem virtuellen Environment bist, weiss PIP das nicht und installiert grundsätzlich alles global (Womit Du eine bereits bestehende Installation ggf. zerschiessen könntest, weil Du ggf. packages in anderen Versionen installierst als die, die ein existierendes Stück Software braucht).
Und wenn Du selber ein so umgebogenes Python hast, das eben nicht die "normalen" globalen Packages verwendet, findet es die dann eben auch nicht.

**himitsu**

Gut, ich hab hier grade kein "installiertes" Python drauf, aber zumindestens sieht es erstmal so aus, als wenn PIP "hier nur" in Unterverzeichnisse was reinpappt. (könnte vielleicht mal noch ein Python installieren und dann processmonitoren)

Im Moment sieht es so aus, als wenn ich die pip.pyz zumindestens nutzen könnte, zum Runterladen inkl. der Abhängigkeiten.
Und das dann manuell ins Hauptverzeichnis verschieben müsste, damit es genutzt werden kann.

Kollege hatte es (vor)gestern alles manuell gemacht.
* das gewünschte Python-Script besorgt
* ausprobiert und geschaut was fehlt
* das dann gesucht und z.B. von GitHub runtergeladen
* wieder ausprobiert, was jetzt noch fehlt usw.

Aktuell war mein Plan, sein Runtergeladenes bei uns ins GitRepo einzufügen, damit das Setup es auch in den Installationen verteilt
und die pip.pyz zu belassen, damit man zumindestens den automatischen Download nutzen könnte (und dann halt verschieben).

[ADD]

Boar eh, gleich das erste gesponsorte Suchergebnis im G "Wissenschaftliche Artikel zu python virtuellen Environments" ... da bekommt man doch Angst?

Bezüglich PIP nichts im Python4Delphi gefunden,
aber zum VENV bzw. VirtualEnv, welches am Ende auf eine pyvenv.cfg hinaus läuft.

https://geekflare.com/de/virtual-environments-python/

https://docs.python.org/3/library/venv.html

Ich glaub innerhalb dieser/unseren "portablen Installation" brauchen wir aktuell wohl noch kein VirtualEnvironment.
-> mehrere getrennte Umgebungen für unsere python.exe/dll

Außer vielleicht, wenn es eine virtuelle Umgebung wird, welche auch dieses Verzeichnis benutzt.

Gefühlt brauchen wir doch "bloß" irgendwo einen Suchpfad, damit Python auch in diesem PIP-Verzeichnis sucht?
Also das "import requests" nicht nur in .\requests.* oder .\python38.zip\requests.*, sondern auch im .\Lib\site-packages\requests.*

**Phoenix**

Ja, Python verwendet viel an Umgebungsvariablen, die u.a. eben auch durch die virtual environments gesteuert / belegt werden.
Python muss wissen wo es nach modulen suchen muss, sonst sucht es nur global an seinen default-Orten.
Durch andere variablen wird allerdings für PIP definiert, wo es drauf arbeitet, sonst nimmt es seine default-Orte.

Die Python- und die PIP-Defaults sind aber nicht zwangsläufig identisch (bzw. vermutlich nur mehr oder weniger zufällig, wenn Du in einer globalen Installation arbeitest).

Das virtual env macht im Prinzip nix anderes, als die für diese Dinge verwendeten Umgebungsvariablen zu setzen, inkl. auch den PATH so anzupassen dass die jeweiligen python- und pip executables des aktuellen Envs genommen werden (weil Du pro virtuellem environment ja auch unterschiedliche Python-Versionen haben kannst).

Du musst keine virtuellen envs verwenden, aber in dem Kontext in dem Python dann ausgeführt wird müssen halt zumindest alle notwendigen Umgebungsvariablen auf die richtigen Verzeichnisse zeigen und Du musst sicherstellen, dass die PATH-Angabe deine lokalen Verzeichnisse vor den globalen listet, damit nicht versehentlich ein globales pip mit lokalem python oder umgekehrt verwendet wird.

**himitsu**

Danke nochmal, für's Stupsen in die passende Richtung.

Ahhh, es gibt die python38._pth
da stehen die Suchpfade drin, also "python38.zip" und "."
und NEU nun von mir auch "Lib\site-packages"
sowie ein "Addons", wo ich grade die zusätzlichen Scripte reinschiebe (damit liegt in "." nur noch der Inhalt der python-3.8.10-embed-win32.zip )

Außerdem kann man dort auch automatische Imports und ein InitialScript hinterlegen.

(muß man nur drauf achten beim nächsten Upgrade das nicht zu überschreiben, bzw. nicht zu vergessen es in die neue ._pth zu übernehmen

)

Zitat von python38._pth:

markieren

Code:

			python38.zip

.

Addons

Lib\site-packages

# Uncomment to run site.main() automatically

#import site

Ja, hab PIP und Unseres nach dem Standardzeugs.

Wo ich langsam immer mehr Suchbegriffe zusammen hatte, fand sich nun auch endlich etwas .....

(ur)alter Weg:

markieren

Code:

			import sys

py_ext_path = r"C:\Users\bob\AppData\Local\Programs\Python\Python38\Lib\site-packages"

if py_ext_path not in sys.path:

    sys.path.append(py_ext_path)

Quelle:

https://www.originlab.com/doc/python/Python-Packages

oder die Umgebungsvariable PYTHONPATH
oder

markieren

Code:

			import sys

sys.path.append('.\Lib\site-packages')

import mod

oder neu eben die python38._pth

https://docs.python.org/3/library/venv.html

https://docs.python.org/3/using/cmdl...var-PYTHONPATH

https://en.delphipraxis.net/topic/51...-installation/

https://stackoverflow.com/questions/...on-for-windows

https://stackoverflow.com/questions/...-in-virtualenv

https://www.youtube.com/watch?v=b093aqAZiPU

**himitsu**

Zitat:

Hallo Frank, im Master sind bei den Python-Files einige komische Dateien reingekommen. Diese führen nun teilweise zu Zirkelbeziehungen und führen damit zu Fehlern.

Siehe Bild im Anhang.

Im Grunde ist das der Unterschied zwischen manuellem Download und dem Installieren via PIP, wo zusätzliche Dateien aufgetaucht sind.

Weiß jemand, was Diese darstellen sollen?

PythonZeugs.jpg
Ja, die dist-infos sind klar,
aber diese markierten PYD

Sie sind im Download nicht da und hier auch ausschließlich innerhalb dieses einen Packages.
Gelöscht und neu installiert, da sind sie auch schon drin. (hätte sein können, dass es noch Reste meiner Tests waren)

Klar, einfach löschen und weg ist das Problem, aber ich wüsste gern warum, vorallem wenn sie beim nächsten Update wieder da sein sollten.

Die genaue Fehlermeldung kann ich noch nicht liefern.
Kollege will dann nochmal bei sich das Verzeichnis zurücksetzen und wenn er den Fehler wieder sieht ........

**0KommaNix**

Hallo himitsu,
ich bin durch einen Verweis - bzw. Antwort - von dir auf dieses Thema aufmerksam geworden.

https://www.delphipraxis.net/1531416-post11.html
Ich kenne bisher nur venv. Nun möchte ich die Vor- und Nachteile gegenüber "Embedded" untersuchen. Das Ziel ist klar: Man will ohne viel Aufwand und Stolperfallen eine Installation auf den Benutzer-PC hinbekommen. Bei beiden Varianten hat man ein Verzeichnis, wo alles - was für Python benötigt wird - enthalten ist. Wenn ich es richtig verstehe, dann braucht man bei Embedded kein Skript zum Starten, wie es bei venv notwendig ist. Dafür braucht man sich bei venv nicht um die Installation von pip kümmern. Was aber auch nur einmal erfolgen muss. Danach kann pip sich ja selbst updaten. Bei Embedded scheint es zu genügen, dass man den Path zur gewünschten python.exe in P4D über ein relative Path-Angabe setzt. Mich verunsichert aber, dass du schriebst:

Zitat von himitsu:

Ich würde den PackageManager gern benutzen, aber er hasst mich.

(Unser Python4Delphi ist zwar bissl angepasst, damit es mit dem Embedded besser geht, weil der Entwickler vorrangig auf ein installiertes Python bedacht war, aber egal ... wir wollten einfach keine externen Abhängigkeiten, wenn z.B. der Kunde bei sich eine andere Python-Version installiert)

Das lässt mich befürchten, dass es bei Verwendung von Python4Delphi zu Problemen kommen kann. Kannst du bitte deine Erfahrung mit P4D+Embedded Python näher erläutern?

**himitsu**

Nja, erstmal haben wir ein paar Bugfixe im python4delphi. (könnte bei Gelegenheit mal nachsehn, wie ich unseren firmeninternen Github-Fork in einen Öffentlichen umkopiere)

Dann ist das Ganze noch in eine Python-Klasse eingebettet, welche das Suchen/Laden der DLL übernimmt, die eigentliche Python-Klasse und ein paar Module/Funktionen intern erstellt/verwaltet.
Im Endeffekt kommt bei der Suche sowas raus, was man auch manuell zuweisen könnte. (aus einer der DFM der Demoanwendungen kopiert)

markieren

Code:

			  object PythonEngine1: TPythonEngine

    DllName = 'python39.dll'

    DllPath = 'E:\EXE\Python'

    APIVersion = 1013

    RegVersion = '3.9'

    UseLastKnownVersion = False

    ...

Für das PIP im Embedded hatte ich zwei Lösungen gefunden
* PIP als Modul im PIP selbst installiert (wird über ein initialies Python-Script "teilweise" eingerichtet)
* oder PIP als Python-Application (PYZ)
* Letzeres haben wir bei uns im Einsatz

[das Python]
Infos:

https://wiki.python.org/moin/EmbeddedPython
Quelle:

https://www.python.org/downloads/windows/
Download:

https://www.python.org/ftp/python/3....mbed-win32.zip

[als App]
Quelle:

https://pip.pypa.io/en/stable/installation/#get-pip-py
Download:

https://bootstrap.pypa.io/pip/pip.pyz
Nutzung: python.exe pip.pyz <command> <params>

[als Modul]
Installaionsscript:

https://bootstrap.pypa.io/get-pip.py -> python.exe get-pip.py
Nutzung: python.exe -m pip <command> <params>
z.B. python pip.pyz install <modulname>

In der python38._pth die Suchpfade für's PIP hinzufügen (für Suche der Python-Scripte&Module)

markieren

Code:

			python38.zip

.

Addons

Lib\site-packages

und dann auch nochmal zur Laufzeit der Komponente/DLL (für Helper-EXEn welche die Module mitbringen)

markieren

Delphi-Quellcode:

			// PIP-ScriptHelper in Suchpfad

P := EnviromentVar('PATH', False);

S := ExtractFilePath(FPythonDLLFilename) + 'Scripts';

if DirectoryExists(S) and not ContainsText(P, S) then

  SetEnvironmentVariable('PATH', PChar(S + ';' + P));

Probleme haben wir beim Embedded aber mit Pyhon-Komkomenten aus'm PIP, welche wiederum selbst DLLs laden,
da diese DLLs, nach Ausführung des Scripts, "meistens" garnicht oder nicht richtig wieder entladen werden.
Und beim nächsten Ausführen eines anderen Scriptes es dann blöde Fehler gibt, auch bis dahin, dass garnichts mehr geht. Oder es mindestens Speicherlecks gibt, welche sich bis zum Kollaps aufsummieren.

Hier ein Auszug der Info-Datei, welche ich mal bei uns im Projekt hinterlegt hab (bissl Firmeninternes entfernt/anonymisiert)

markieren

Code:

			Download          :  https://www.python.org/downloads/windows/

                     -> "Windows embeddable package (32-bit)", da Delphi&UnserProgramm als Win32

                     https://www.python.org/ftp/python/3.8.10/python-3.8.10-embed-win32.zip

aktuelle Version  : Python 3.8.10 Embedded 32-bit

Python-UPGRADE    : aktuelles siehe "Download"

                    ins DIESES Verzeichnis "Python3" entpacken

                    Kann alles gelöscht/überschrieben werden, siehe "restliche *.pyd"

                    ABER in der python**._pth die Suchpfade beachten, siehe "python38._pth"

                    ...

                    und zuletzt siehe "python pip.pyz"

                    LÖSCHEN: charset_normalizer\md.cp38-win32.pyd und charset_normalizer\ md__mypyc.cp38-win32.pyd

                       werden durch PIP in den Download eingefügt und führen zu Problemen.

                       https://www.delphipraxis.net/1524779-post6.html

SourceCode der Python**.dll  -> https://github.com/python/cpython  -> \Include\pylifecycle.h

[[ Anleitung PIP : Package Installer for Python ]]

Installation siehe "pip.pyz"

Explorer > ProgrammVerzeichnis\Python3

in Adressleiste : CMD [Enter]

python pip.pyz help                      Hilfe

python pip.pyz list                      Liste des Installierten

python pip.pyz search                    Suchen : geht nicht mehr, aber siehe https://pypi.org/search bzw. https://pypi.org/classifiers/

python pip.pyz install <modulname>       Installieren

python pip.pyz uninstall <modulname>     Deinstallieren

python pip.pyz show <modulname>          Infos: Abhängigkeiten, Version, Beschreibung, Quelle usw.

python pip.pyz check                     Abhängigkeiten prüfen

[[ Einiges vom Verzeichnisinhalt des "Python3" ]]

python.exe         = nutzen wir im Programm nicht (aber für PIP oder z.B. manuelles Ausführen der DebugBackup-Datei *.py aus Programm)

python3.dll        = Forward-DLL mit Weiterleitung zur jeweiligen python3*.dll

python38._pth      = Python-Config : Suchpfade und optional ein InitialScript

                         "python38.zip" , "." und unser Zusatz für's PIP "Lib\site-packages" , sowie ein "Addons"

python38.dll       = [Version 3.8.10]   das Python

python38.zip       = [Version 3.8.10]   viele StandardModule (os, io, datetime, zip, base64, xml, json, csv, email, ...)

                   = ist ein site-package (wird über python39._pth geladen) und enthält viele *.pyc (compiled bytecode)

                         diese können ebenfalls in den eigenen Scripten genutzt werden

*.pyd              = vorkompilierte Python-Module (DLLs), zur Nutzung innerhalb der Scripte

*.pyc              = kompiliertes Python-Script

*.py               = Python-Script

*.pyz              = Python Zipped Executable ist wohl sowas Ähnliches wie *.pyd

restliche *.pyd    = stammen aus der python-3.8.10-embed-win32.zip, also ebenfalls Standard-Zeugs, wie die python38.zip

                     -> bis auf DIESE Info-Datei, bzw. die Versions-Info, die "pip.pyz" und unsere angepasste "python38._pth"

__pycache__\       = [gitignore] Cache der Python-EXE/DLL (kompilierte *.pyc der *.py)

Addons\            = Zusätzliche Scripte von uns (siehe Nachfolgend "Addons")

Lib\site-packages\ = Python-Module via PIP installiert

Scripts\           = Tools vom PIP

pip.pyz            = [Version 3.6]      Package Installer for Python - der Paketmanager (siehe "Anleitung PIP")

                                                               Quelle:     https://pip.pypa.io/en/stable/installation/#get-pip-py

                                        [als Python-Anwendung] Download:   https://bootstrap.pypa.io/pip/pip.pyz

                                                               muß ins Hauptverzeichnis, geht nicht aus .\Addons\

                                                               "CMD: python.exe pip.pyz <command> <params>"

                                        [als Python-Modul]     Alternativ: https://bootstrap.pypa.io/get-pip.py

                                                               dieses runterladen und installieren "python.exe get-pip.py"

                                                               landet im .\Lib\site-packages\

                                                               "CMD: python.exe -m pip <command> <params>"

**himitsu**

Beim Python4Delphi ist eigentlich eine VCL-Erweiterung dabei, aber wir hatten noch nicht rausbekommen, wie man die benutzt.
Klingt ja so, als wenn sie die VCL des eigenen Programms nutzt, während das Python-Script in der Python-DLL läuft.

Es gibt auch noch ein VCL4Python und FMX4Python, welche die VCL/FMX selbst als DLL mitbringen und was man auch in der Python-EXE nutzen kann, nicht nur Embedded.

**0KommaNix**

Danke himitsu!
Da lieferst du mir eine Menge Input

. Den muss ich erstmal verarbeiten, bevor ich zu chaotisch nachfrage. Bisher habe ich Python nur für mich benutzt und das auch nur getrennt von Delphi-Programmen. Was du schreibst klingen sehr danach, dass ihr leitvolle Erfahrung sammeln musstet. Das macht mich schon Mal vorsichtiger.

Zwischenzeitlich habe ich gelernt, dass venv nicht unabhängig vom global installierten Python ist (ich war so blauäugige das zu glauben

). Nun habe ich gesehen, dass P4D nach einer pyvenv.cfg sucht und darin steht ein absoluter Verweis zum globalen Python.
Bei mein heutigen Versuchen musste ich feststellen, dass wenn ein Skript unter venv in ein Kommandozeilenfenster läuft, es nicht bedeutet, dass es auch von P4D-Demo1 Skript-Memo aus läuft. Bis zum produktiven Einsatz scheint es noch ein weiter Weg zu sein.