Пример анализа больших данных Python — пример анализа больших данных, интегрированный с Python
Пример анализа больших данных Python — пример анализа больших данных, интегрированный с Python

Всем привет, мы снова встретились, я ваш друг Цюаньчжаньцзюнь.

использоватьPythonруководитьданныеПреимущество анализа в том, что,Его библиотека анализа данных в настоящее время очень обширна.,иметьNumPy、Pandas、SciPy、scikit-learn、StatsModels,Также существуют различные пакеты для глубокого обучения и нейронных сетей. По сути, он может удовлетворить большинство корпоративных приложений. Преимущества использования Python — извлечение данных, сбор и организация данных, анализ и извлечение данных, а также отображение данных.,Все может быть реализовано на одном Python,Избегание переключения программ развития.

Здесь я поделюсь с вами примером приложения, которое я сделал. Решите проблему: автоматически создавайте прогнозы продаж, повышайте точность и сокращайте объем ручного анализа прогнозов по одному SKU. Конечный эффект следующий:

1. Используемые инструменты

Конечно, нам нужно использовать только Python и некоторые библиотеки.

панды: сортировка данных

numpy: предпосылка панд, научные вычисления

MySQLdb: ссылка на базу данных MySQL

statsmodels: статистическое моделирование

pylab: обработка графики

колба: веб-фреймворк

2. Установка колбы

Пожалуйста, обратитесь к http://docs.jinkan.org/docs/flask/,существоватьFlaskизappСоздать каталогforecasting.pyизpythonдокумент,Создайте файл шаблона прогноза.html в каталоге шаблонов приложения Flask.,Содержимое двух файлов следующее:

forecasting.py

# -*- coding: utf-8 -*-

from app import app

from flask import render_template

@app.route(‘/forecasting/’)

def forecasting(item=None):

return render_template(“forecasting.html”)

forecastin.html

Hello World

Hello World

Запустить в окне DOS

python d:pyflaskrun.py

Откройте http://127.0.0.1:5000/ в браузере, и вы увидите содержимое отображаемого шаблона прогнозирования.html.

Далее мы строим модель прогнозирования с нуля.

3. Создайте базу данных и заполните данные.

CREATE TABLE `sale` (

`SaleMonth` datetime DEFAULT NULL,

`Sale` float DEFAULT NULL

) ENGINE=InnoDB DEFAULT CHARSET=utf8;

Данные вводятся сами.

4. Внедрение соответствующих библиотек

Теперь мы вносим изменения на основе файла, созданного в пункте 2.

Добавьте следующие библиотеки в заголовок прогноза.py

# -*- coding: utf-8 -*-

from app import app

from flask import render_template

import pylab

import pandas as pd

import numpy as np

from pandas import Series,DataFrame

import MySQLdb

import pandas.io.sql as sql

import statsmodels.api as sm

import time

import datetime

from dateutil.relativedelta import relativedelta

import random

5. Определите маршрутизацию

@app.route(‘/forecasting/’)

Это означает, что когда мы получаем доступ к адресу, например http://127.0.0.1:5000/forecasting/2, он анализируется в файл прогнозирования.py, который представляет собой переменную часть URL-адреса, например 2 URL-адреса выше.

6. Определите функции

def forecasting(lag=None):

Среди них задержка — это принятие параметров в URL-адресе. Мы определяем задержку как количество периодов задержки функции авторегрессии.

7. Ссылка на базу данных

conn = MySQLdb.connect(host=’127.0.0.1′,user=’root’,passwd=’123456′,db=’bi’,charset=’utf8′)

str_sql = “select SaleMonth as Month,Sale from sale order by SaleMonth”

sale=sql.read_sql(str_sql,conn)

8. Обработка данных

Мы организуем данные так, чтобы сделать их пригодными для использования.

##//Обработка данных

#Преобразуйте месяц в типе данных в дату и определите его как индекс панд

sale.Month = pd.to_datetime(sale.Month)

sale = sale.set_index(“Month”)

##//Извлечение максимального и минимального месяца

start = min(sale.index)

end = max(sale.index)

##Определите месяц прогноза, добавьте 1-4 к самому большому месяцу

pre_start =end+relativedelta(months=1)

pre_end =end+relativedelta(months=4)

#Необходимое преобразование

pre_start =pre_start.strftime(‘%Y-%m-%d’)

pre_end =pre_end.strftime(‘%Y-%m-%d’)

#Создаем временной ряд от самого маленького месяца до самого большого месяца

i = pd.date_range(start, end, freq=’MS’)

df = DataFrame(i,i)

#Определить столбцы, определить имя индекса

df.columns = [‘T’]

df.index.names =[‘Month’]

#Объединить продажу с df через индекс

rs = pd.merge(sale,df,left_index=True,right_index=True,how=’outer’)

#Удалите временный столбец T и преобразуйте rs в html, чтобы облегчить последующий вывод в шаблон.

del rs[‘T’]

data = rs.to_html()

9. Прогнозирование данных

##предсказывать

#Выполняем логарифмическое преобразование на rs

rs = np.log(rs)

#Выполняем авторегрессию на rs, lag — это коэффициент лага авторегрессии, параметр lag из функции, то есть параметр из RUL

r = sm.tsa.AR(rs).fit(maxlag=lag, method=’mle’, disp=-1)

#Прогноз на ближайшие четыре месяца

fcst_lg = r.predict(start,pre_end)

#Выполните экспоненциальное преобразование прогнозируемых результатов, поскольку логарифмическое преобразование было выполнено ранее

fcst = np.exp(fcst_lg)

#Преобразовать fcst в формат Pandas DataFrame

fcst = DataFrame(fcst)

#Определяем имена столбцов и индексы для слияния с исходным rs

fcst.columns=[‘fcst’]

fcst.index.names =[‘Month’]

#Объединить fcst и rs с rs_out

rs_out = pd.merge(sale,fcst,left_index = True,right_index = True,how=’outer’)

#rs_out преобразуется в формат записи, а затем преобразуется в формат HTML, чтобы облегчить вывод в шаблон для отображения.

#Получить последние 4 строки в качестве прогнозируемого вывода на дисплей. Я не знаю, почему в выводе rs_out[-4:-1] отсутствует последняя строка.

rs_fcst = rs_out[-4:-1]

rs_fcst = rs_fcst.to_html()

rs2 = rs_out.to_records()

rs_out = rs_out.to_html()

10. Сортировка данных

Для отображения я использовал платформу веб-иконок echart.

##Ниже приведен формат json для обработки данных таблицы и вывода их в echart.

tmp=u””

tmp1=””

tmp2=””

tmp3=””

for t in rs2:

#tmp1 += “{‘label’:'” + str(t.Month.year)+”/”+str(t.Month.month) + “‘,’value’:'” + str(t.Qty) + “‘},”

#tmp1 += “”

tmp1 += “‘”+str(t.Month.year)+”/”+str(t.Month.month)+”‘,”

#tmp2 += “”

tmp2 += str(‘%.0f’ % t.Sale) +”,”

#tmp3 += “”

tmp3 += str(‘%.0f’ % t.fcst) +”,”

tmp +=””+tmp1+””

tmp +=u””+tmp2+””

tmp +=u””+tmp3+””+””

tmp1 = tmp1[:-1]

tmp2 = tmp2[:-1]

tmp2 = tmp2.replace(‘nan’,”-”)

tmp3 = tmp3[:-1]

tmp=u”'{

title: {текст: «Тест», подтекст: «Чисто вымышленный»},

tooltip : {trigger: ‘axis’},

легенда: {data:['Фактические продажи', 'Прогнозируемые продажи']},

toolbox: {

show : true,

feature : {

mark : {show: false},dataView : {show: true, readOnly: false},

magicType : {show: true, type: [‘line’, ‘bar’]},

restore : {show: true},saveAsImage : {show: false}

}

},

calculable : true,

dataZoom : {show : true,realtime : true,start : 0,end : 100},

xAxis : [{type : ‘category’,data : [%s]}],

yAxis : [{type : ‘value’,min : 5000,scale : true}],

series : [

{

имя:'фактические продажи',тип:'бар',данные:[%s],

markPoint : {

данные: [{тип: «макс», имя: «максимальное значение»}, {тип: «мин», имя: «минимальное значение»}]

},

markLine: {данные: [{тип: «среднее», имя: «среднее»}]}

},

{

имя:'прогноз продаж',тип:'строка',данные:[%s],

}

]

};”’ %(tmp1,tmp2,tmp3)

11. Создать формулу

Генерация формулы может более наглядно показать взаимосвязь между переменными.

#Создание изображений динамических формул

rp = r.params

ftext=”

i=0

for rp1 in rp:

if (i==0) and (rp1>0) :const = ‘+’ + str((“%.4f” % rp1))

if (i==0) and (rp1<0) :const = str((“%.4f” % rp1))

if (i==1):ftext = ftext + str((“%.4f” % rp1))+’y_{t-‘+str(i)+’}’

if (i>1) and (rp1>0):ftext = ftext + ‘+’ + str((“%.4f” % rp1))+’y_{t-‘+str(i)+’}’

if (i>1) and (rp1<0):ftext = ftext + str((“%.4f” % rp1))+’y_{t-‘+str(i)+’}’

i +=1

f = r’y_{t}=’+ftext+const + ‘

f2 = r’y=ln(w_{t})

fig = pylab.figure()

#Сделаем фон прозрачным

fig.patch.set_alpha(0)

text = fig.text(0, 0, f)

# Сохраняем формулу как картинку формулы

dpi = 300

fig.savefig(‘d:/py/formula.png’, dpi=dpi)

# Now we can work with text’s bounding box.

bbox = text.get_window_extent()

width, height = bbox.size / float(dpi/4) + 0.005

# Adjust the figure size so it can hold the entire text.

fig.set_size_inches((width, height))

# Adjust text’s vertical position.

dy = (bbox.ymin/float(dpi))/height

text.set_position((0, -dy))

# Save the adjusted text.

url = ‘D:/py/Flask/app/static/images/1.png’

fig.savefig(url, dpi=dpi)

12. Вывод в шаблон

Выведите результаты в программе py, используемой в шаблоне, в шаблон.

return render_template(“forecasting.html”,r=r,rs_out=rs_out,tmp=tmp,lag=lag,f=f,f2=f2,rs_fcst=rs_fcst)

13. Шаблон дизайна

Мы можем использовать { {Имя переменной}}, чтобы принимать переменные из программы py.

Анализ результатов

// конфигурация пути

require.config({

paths:{

‘echarts’ : ‘/static/ECharts/build/echarts’,

‘echarts/chart/bar’ : ‘/static/ECharts/build/echarts’,

‘echarts/theme/macarons’:’/static/ECharts/src/theme/macarons’,

}

});

require(

[

‘echarts’,

‘echarts/theme/macarons’,

'echarts/chart/bar', // Загружаем модуль гистограммы при использовании гистограммы и загружаем его по требованию

'echarts/chart/line' // Загружаем модуль гистограммы при использовании гистограммы и загружаем его по требованию

],

function (ec,theme) {

// На основе подготовленного dom инициализируем диаграмму echarts

var myChart = ec.init(document.getElementById(‘main’),theme);

var option = { {tmp | safe}}

myChart.setOption(option);

}

);

.right{text-align: right}

body{font-size: 12px;background:white}

Summary of AR Results

Lag length:

{ {r.k_ar}}

Samples:

{ {r.nobs}}

Model:

AR

—————————————–

AIC:

{ {‘%.4f’ % r.aic}}

BIC:

{ {‘%.4f’ % r.bic}}

FPE:

{ {‘%.4f’ % r.fpe}}

HQIC:

{ {‘%.4f’ % r.hqic}}

———————————————————-

Results for equation

==========================================================

X

coefficient

std.error

t-stat

p-value

{% for i in range(lag+1) %}

{% if i==0 %}

const

{% else %}

Y(t-{ {i}})

{% endif %}

{ {‘%.4f’ % r.params[i]}}

{ {‘%.4f’ % r.bse[i]}}

{ {‘%.4f’ % r.tvalues[i]}}

{ {‘%.4f’ % r.pvalues[i]}}

{% endfor %}

———————————————————-

предсказывать

==========================================================

{ {rs_fcst | safe}}

14. Практическое применение

В каждом из этих примеров,Мы фокусируемся только на одном продукте、модель、Один аргумент был выдвинут предсказать.

в практическом применении,Вы можете выполнять пакетную обработку продуктов, нескольких моделей и нескольких параметров.,Напишите алгоритм, определяющий, является ли предсказывать модель хорошей или плохой.,Автоматически определять оптимальную модель и параметры для каждого товара,Предсказывать стоимость каждого товара регулярно рассчитывается автоматически.

Я надеюсь, что эта идея поможет каждому.

Издатель: Лидер стека программистов полного стека, укажите источник для перепечатки: https://javaforall.cn/139854.html Исходная ссылка: https://javaforall.cn

boy illustration
Неразрушающее увеличение изображений одним щелчком мыши, чтобы сделать их более четкими артефактами искусственного интеллекта, включая руководства по установке и использованию.
boy illustration
Копикодер: этот инструмент отлично работает с Cursor, Bolt и V0! Предоставьте более качественные подсказки для разработки интерфейса (создание навигационного веб-сайта с использованием искусственного интеллекта).
boy illustration
Новый бесплатный RooCline превосходит Cline v3.1? ! Быстрее, умнее и лучше вилка Cline! (Независимое программирование AI, порог 0)
boy illustration
Разработав более 10 проектов с помощью Cursor, я собрал 10 примеров и 60 подсказок.
boy illustration
Я потратил 72 часа на изучение курсорных агентов, и вот неоспоримые факты, которыми я должен поделиться!
boy illustration
Идеальная интеграция Cursor и DeepSeek API
boy illustration
DeepSeek V3 снижает затраты на обучение больших моделей
boy illustration
Артефакт, увеличивающий количество очков: на основе улучшения характеристик препятствия малым целям Yolov8 (SEAM, MultiSEAM).
boy illustration
DeepSeek V3 раскручивался уже три дня. Сегодня я попробовал самопровозглашенную модель «ChatGPT».
boy illustration
Open Devin — инженер-программист искусственного интеллекта с открытым исходным кодом, который меньше программирует и больше создает.
boy illustration
Эксклюзивное оригинальное улучшение YOLOv8: собственная разработка SPPF | SPPF сочетается с воспринимаемой большой сверткой ядра UniRepLK, а свертка с большим ядром + без расширения улучшает восприимчивое поле
boy illustration
Популярное и подробное объяснение DeepSeek-V3: от его появления до преимуществ и сравнения с GPT-4o.
boy illustration
9 основных словесных инструкций по доработке академических работ с помощью ChatGPT, эффективных и практичных, которые стоит собрать
boy illustration
Вызовите deepseek в vscode для реализации программирования с помощью искусственного интеллекта.
boy illustration
Познакомьтесь с принципами сверточных нейронных сетей (CNN) в одной статье (суперподробно)
boy illustration
50,3 тыс. звезд! Immich: автономное решение для резервного копирования фотографий и видео, которое экономит деньги и избавляет от беспокойства.
boy illustration
Cloud Native|Практика: установка Dashbaord для K8s, графика неплохая
boy illustration
Краткий обзор статьи — использование синтетических данных при обучении больших моделей и оптимизации производительности
boy illustration
MiniPerplx: новая поисковая система искусственного интеллекта с открытым исходным кодом, спонсируемая xAI и Vercel.
boy illustration
Конструкция сервиса Synology Drive сочетает проникновение в интрасеть и синхронизацию папок заметок Obsidian в облаке.
boy illustration
Центр конфигурации————Накос
boy illustration
Начинаем с нуля при разработке в облаке Copilot: начать разработку с минимальным использованием кода стало проще
boy illustration
[Серия Docker] Docker создает мультиплатформенные образы: практика архитектуры Arm64
boy illustration
Обновление новых возможностей coze | Я использовал coze для создания апплета помощника по исправлению домашних заданий по математике
boy illustration
Советы по развертыванию Nginx: практическое создание статических веб-сайтов на облачных серверах
boy illustration
Feiniu fnos использует Docker для развертывания личного блокнота Notepad
boy illustration
Сверточная нейронная сеть VGG реализует классификацию изображений Cifar10 — практический опыт Pytorch
boy illustration
Начало работы с EdgeonePages — новым недорогим решением для хостинга веб-сайтов
boy illustration
[Зона легкого облачного игрового сервера] Управление игровыми архивами
boy illustration
Развертывание SpringCloud-проекта на базе Docker и Docker-Compose