PYTHON 幫助

XGBoost Python（它是如何工作的：開發人員指南）

發佈 2025年2月19日

介紹

XGBoost 代表 eXtreme Gradient Boosting，是一種強大且準確的機器學習演算法。它主要應用於回歸分析、分類和排序問題。它涉及諸如調節等功能，幫助避免過擬合，並行性以及缺失數據處理。

IronPDF 是一個用於創建、修改和讀取 PDF 文件的 Python 函式庫。它使將 HTML、圖像或文字轉換為 PDF 變得容易，還可以添加頁首、頁尾和浮水印。儘管主要關注其在 Python 中的使用，不過值得注意的是，可透過 Python 等互操作工具將 NET 工具實現於此程式語言中。

XGBoost與IronPDF的結合提供了更廣泛的應用。通過 IronPDF，預測結果可以與創建互動式 PDF 文件相結合。這種組合特別有助於生成精確的企業文件和數據，以及從所應用的預測模型中獲得的結果。

什麼是xgboost Python？

XGBoost 是一個基於集成學習的強大 Python 機器學習庫，具有高度的效率和靈活性。 XGBoost 是由陈天奇实现的一种梯度增强算法，它包含了额外的优化。其效能已在多個應用領域中得到證明，對應的任務可以通過此方法解決，例如分類、回歸、排名任務等。XGBoost具備幾個獨特的特點：不存在缺失值對其而言不是問題；有機會使用 L1 和 L2 規範來對抗過擬合；

訓練過程是並行進行的，這顯著加快了訓練速度。 XGBoost 中的樹修剪也是以深度優先方式進行，這有助於管理模型容量。它的一個特點是超參數的交叉驗證以及內建函數用於評估模型的性能。該庫可與在 Python 環境中構建的其他數據科學工具如 NumPy、SciPy 和 sci-kit-learn 良好互動，使其能夠集成到確認的環境中。然而，由於其速度、簡單性和高效能，XGBoost 已成為許多資料分析師、機器學習專家以及有志於深度學習資料科學家的「兵器庫」中的重要工具。

xgboost Python 的功能

XGBoost 以其眾多功能而聞名，使其在各種機器學習任務和機器學習演算法中具有優勢，並使其更易於實施。以下是 Python 中 XGBoost 的主要功能。以下是 XGBoost 在 Python 中的關鍵特性：

正則化：

應用 L1 和 L2 正則化技術以減少過擬合並提高模型的性能。

並行處理：

預訓練模型在訓練過程中使用所有 CPU 核心，從而大幅提升模型的訓練效果。

處理遺失數據：

一種算法，當模型訓練完成時，自動決定處理缺失值的最佳方法。

樹木修剪：

在樹剪枝中，透過使用參數“max_depth”以深度優先遍歷樹，這樣可以減少過擬合。

內建交叉驗證：

它包括內建的交叉驗證方法，用於模型評估和超參數優化，因為它原生支持並執行交叉驗證，所以實施起來不那麼複雜。

可擴展性：

它針對可擴展性進行了優化；因此，它可以分析大數據並適當處理特徵空間數據。

支持多種語言：

XGBoost 最初是在 Python 中開發的；然而，為了擴大其範圍，它也支援 R、Julia 和 Java。

分散式計算

該套件被設計成可分發，這意味著它可以在多台計算機上執行，以處理大量數據。

自訂目標和評估函數：

它使用戶能夠根據其特定需求設置目標函數和性能測量。此外，它支持二元分類和多類別分類。

功能重要性：

它有助於識別各種功能的價值，可以幫助選擇給定數據集的功能，並提供多個模型的解釋。

稀疏感知：

它在處理稀疏數據格式時表現良好，這在處理包含許多NULL值或零的數據時非常有用。

與其他庫的整合：

它補充了像 NumPy、SciPy 和 scikit-learn 等數據科學函式庫的短期流行性，這些函式庫很容易整合到數據科學的工作流程中。

建立與配置 xgboost Python

在 Python 中，建立和配置 XGBoost 模型涉及多個過程：數據收集和預處理過程、模型創建、模型管理以及模型評估。以下是一份詳細指南，將幫助您開始使用：

安裝 XGBoost

首先，檢查您的系統上是否有 Xgboost 套件。您可以使用 pip 將其安裝在您的電腦上：

pip install xgboost

導入庫

import xgboost as xgb
import numpy as np
from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error

import xgboost as xgb
import numpy as np
from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error

PYTHON

準備數據

在此示例中，我們將使用波士頓住房數據集：

# Load the Boston housing dataset
boston = load_boston()
#load default value from the package
X = boston.data
y = boston.target
# Split the dataset into training and testing sets
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# Load the Boston housing dataset
boston = load_boston()
#load default value from the package
X = boston.data
y = boston.target
# Split the dataset into training and testing sets
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

PYTHON

創建 DMatrix

XGBoost 使用一種名為 DMatrix 的自定義數據結構進行訓練。

# Create DMatrix for training and testing sets
dtrain = xgb.DMatrix(X_train, label=y_train)
dtest = xgb.DMatrix(X_test, label=y_test)

# Create DMatrix for training and testing sets
dtrain = xgb.DMatrix(X_train, label=y_train)
dtest = xgb.DMatrix(X_test, label=y_test)

PYTHON

設定參數

配置模型參數。一個範例配置如下：

# Set parameters
params = {
    'objective': 'reg:squarederror',  # Objective function
    'max_depth': 4,  # Maximum depth of a tree
    'eta': 0.1,  # Learning rate
    'subsample': 0.8,  # Subsample ratio of the training instances
    'colsample_bytree': 0.8,  # Subsample ratio of columns when constructing each tree
    'seed': 42  # Random seed for reproducibility
}

# Set parameters
params = {
    'objective': 'reg:squarederror',  # Objective function
    'max_depth': 4,  # Maximum depth of a tree
    'eta': 0.1,  # Learning rate
    'subsample': 0.8,  # Subsample ratio of the training instances
    'colsample_bytree': 0.8,  # Subsample ratio of columns when constructing each tree
    'seed': 42  # Random seed for reproducibility
}

PYTHON

訓練模型

使用 train 方法訓練 XGBoost 模型。

# Number of boosting rounds
num_round = 100
# Train the model
bst = xgb.train(params, dtrain, num_round)

# Number of boosting rounds
num_round = 100
# Train the model
bst = xgb.train(params, dtrain, num_round)

PYTHON

進行預測

現在，使用這個訓練好的模型對測試集進行預測。

# Make predictions
preds = bst.predict(dtest)

# Make predictions
preds = bst.predict(dtest)

PYTHON

評估模型

使用適當的度量標準檢查機器學習模型的性能——例如，均方根誤差：

# Calculate mean squared error
mse = mean_squared_error(y_test, preds)
print(f"Mean Squared Error: {mse}")

# Calculate mean squared error
mse = mean_squared_error(y_test, preds)
print(f"Mean Squared Error: {mse}")

PYTHON

儲存和載入模型

您可以將訓練好的模型保存到文件中，若有需要可以稍後載入：

# Save the model
bst.save_model('xgboost_model.json')
# Load the model performance
bst_loaded = xgb.Booster()
bst_loaded.load_model('xgboost_model.json')

# Save the model
bst.save_model('xgboost_model.json')
# Load the model performance
bst_loaded = xgb.Booster()
bst_loaded.load_model('xgboost_model.json')

PYTHON

以下是生成的 JSON 檔案。

XGBoost Python（（它是如何運作的：開發者指南））：圖 3 - 上述範例代碼的 JSON 輸出範例

入門

以下是兩個程式庫的基本安裝，以及如何開始使用 XGBoost 進行數據分析和使用 IronPDF 生成 PDF 報告的示例。

什麼是 IronPDF？

使用功能強大的 Python 套件 IronPDF 來生成、操作和讀取 PDF。這使程式設計師能夠對 PDF 執行許多基於程式設計的操作，例如處理現有的 PDF 和將 HTML 轉換為 PDF 文件。 IronPDF 是一個高效的解決方案，適用於需要動態生成和處理 PDF 的應用程式，因為它提供了一種靈活且友好的方式來生成高品質的 PDF 文件。

XGBoost Python（（運作方式：開發人員指南））：圖4 - IronPDF：Python PDF 庫

HTML 轉 PDF

IronPDF 可以從任何 HTML 內容（新建或現有的內容）創建 PDF 文檔。它允許從網頁內容創建美觀且富有藝術性的 PDF 出版物，充分捕捉現代 HTML5、CSS3 和 JavaScript 的各種形式的力量。

建立/編輯PDF

它可以在新程序生成的 PDF 文件中添加文字、圖片、表格和其他內容。使用 IronPDF，可以開啟並編輯現有的 PDF 文件，以進行進一步的修改。在 PDF 中，您可以根據需要編輯/添加內容，並刪除文件中的特定內容。

複雜佈局和樣式

它使用 CSS 來美化 PDF 中的內容。它支持複雜的佈局、字體、顏色和所有這些設計元素。此外，使用 JavaScript 的 HTML 資料呈現方式允許在 PDF 中創建動態內容。

安裝 IronPDF

IronPDF 可以透過 Pip 安裝。使用以下命令來安裝它：

pip install ironpdf

將 XGboost Python 與 IronPDF 結合

導入所有相關庫並加載您的數據集。在我們的例子中，我們將使用波士頓住房數據集：

import xgboost as xgb
import numpy as np
from ironpdf import *     from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error
# Load data
boston = load_boston()
X = boston.data
y = boston.target
# Split data
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
# Create DMatrix
dtrain = xgb.DMatrix(X_train, label=y_train)
dtest = xgb.DMatrix(X_test, label=y_test)
# Set parameters
params = {
    'objective': 'reg:squarederror',
    'max_depth': 4,
    'eta': 0.1,
    'subsample': 0.8,
    'colsample_bytree': 0.8,
    'seed': 42
}
# Train model
num_round = 100
bst = xgb.train(params, dtrain, num_round)
# Make predictions
preds = bst.predict(dtest)
# Create a PDF document
iron_pdf =  ChromePdfRenderer()
# Create HTML content
html_content = f"""
<html>
<head>
    <title>XGBoost Model Report</title>
</head>
<body>
    <h1>XGBoost Model Report</h1>
    <p>Mean Squared Error: {mse}</p>
    <h2>Predictions</h2>
    <ul>
        {''.join([f'<li>{pred}</li>' for pred in preds])}
    </ul>
</body>
</html>
"""
pdf=iron_pdf.RenderHtmlAsPdf(html_content)
# Save the PDF document
pdf.SaveAs("XGBoost_Report.pdf")
print("PDF document generated successfully.")

import xgboost as xgb
import numpy as np
from ironpdf import *     from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error
# Load data
boston = load_boston()
X = boston.data
y = boston.target
# Split data
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
# Create DMatrix
dtrain = xgb.DMatrix(X_train, label=y_train)
dtest = xgb.DMatrix(X_test, label=y_test)
# Set parameters
params = {
    'objective': 'reg:squarederror',
    'max_depth': 4,
    'eta': 0.1,
    'subsample': 0.8,
    'colsample_bytree': 0.8,
    'seed': 42
}
# Train model
num_round = 100
bst = xgb.train(params, dtrain, num_round)
# Make predictions
preds = bst.predict(dtest)
# Create a PDF document
iron_pdf =  ChromePdfRenderer()
# Create HTML content
html_content = f"""
<html>
<head>
    <title>XGBoost Model Report</title>
</head>
<body>
    <h1>XGBoost Model Report</h1>
    <p>Mean Squared Error: {mse}</p>
    <h2>Predictions</h2>
    <ul>
        {''.join([f'<li>{pred}</li>' for pred in preds])}
    </ul>
</body>
</html>
"""
pdf=iron_pdf.RenderHtmlAsPdf(html_content)
# Save the PDF document
pdf.SaveAs("XGBoost_Report.pdf")
print("PDF document generated successfully.")

PYTHON

現在，您將創建 DMatrix 類的對象以有效處理數據，然後設置與目標函數和超參數相關的模型參數。在訓練 XGBoost 模型後，對測試集進行預測；您可以使用均方誤差或類似指標來評估性能。然後，使用 IronPDF 創建一個包含所有結果的 PDF。

XGBoost Python（（它如何運作：開發者指南））：圖5

您用所有結果創建一個 HTML 表示；然後，您將使用 IronPDF 的 RenderHtmlAsPdf 類將此 HTML 內容轉換成 PDFPDF文檔. 最後，您可以將生成的 PDF 報告儲存到所需的位置。換句話說，該整合將使您能夠自動化地創建非常精緻的專業報告，其中包含從其機器學習模型中得出的見解。

XGBoost Python（（其運作方式：開發者指南））：圖6 - IronPDF 的使用範例：利用 IronPDF 創建包含所有數據結果的 PDF

結論

總之，XGBoost 和 IronPDF 被整合用於高級數據分析和專業報告生成。 XGBoost 的效率和可擴展性在處理複雜的機器學習任務時提供了最佳解決方案，具有強大的預測能力和出色的模型優化工具。您可以使用 Python 無縫地將這些強大工具與 IronPDF 連接在一起，將從 XGBoost 獲得的豐富見解轉換為高度詳細的 PDF 報告。

因此，這些整合將大大促進具吸引力且信息豐富的文件的生成，這些文件相對於結果而言，可以與持份者溝通，或適合進一步分析。沒有內建的 XGBoost 與 IronPDF 之間的協同作用，商業分析、學術研究或任何數據驅動的項目都無法有效地處理數據並輕鬆地傳達結果。

整合IronPDF和IronSoftware產品以確保您的客戶和最終用戶獲得功能豐富的高級軟體解決方案。這也將有助於優化您的項目和流程。

完整的文件、活躍的社群以及頻繁的更新，與 IronPDF 的功能密切相關。 Iron Software 是現代軟體開發專案的可信賴夥伴名稱。 IronPDF 為所有開發人員提供免費試用。他們可以嘗試所有功能。為了最大程度地發揮此產品的價值，提供749美元的授權價格。

坎納帕特·烏頓潘

軟體工程師

LinkedIn

在成為軟體工程師之前，Kannapat 在日本北海道大學完成了環境資源博士學位。在攻讀學位期間，Kannapat 也成為了車輛機器人實驗室的成員，該實驗室隸屬於生物生產工程學系。2022 年，他利用自己的 C# 技能，加入了 Iron Software 的工程團隊，專注於 IronPDF 的開發。Kannapat 珍視這份工作，因為他可以直接向負責撰寫大部分 IronPDF 程式碼的開發人員學習。除了同儕學習外，Kannapat 還享受在 Iron Software 工作的社交方面。當他不在撰寫程式碼或文件時，Kannapat 通常會在 PS5 上玩遊戲或重看《最後生還者》。

< 上一頁
hashlib Python（工作原理：開發者指南）

下一個 >
Py2neo（開發者如何運作）