5ヶ年計画Revise up(ver3.0)

Qiitaに谷CEOの記事が載ったのでそれを参考にAIエンジニアになるための道程表をリバイズアップした。有用な記事、感謝いたします。

5ヶ年計画Revise up(ver3.0)

Qiitaに谷CEOの記事が載ったのでAIエンジニアになるための道程表(5ヶ年計画)をリバイズアップした。
有用な記事感謝いたします。

layout: “post”
title: “5ヶ年計画ver3.0”
date: “2018-12-18 13:38”

AIエンジニアに最低限必要な知識
まずは、AIエンジニアに最低限必要な知識を大きく6つに分けて見ました。
ここでは、将来AIエンジニアとして業務を行うにあたり、大きく分けて6つの内容の基礎知識の全体像を把握してください。

①プログラミングスキル
– Python
– numpy、pandas、matplotlib、scikit-learn、TensorFlowやkeras

この中で特にpandasを使いこなせると良いです。
機械学習を行う上で、データ前処理が必須なのですが、データ前処理を行う上で便利なライブラリです。

②数学
– 微分、線形代数、ベクトル、行列、確率など

③統計の知識
– 標準偏差、分散、確率分布、推定、検定などなど

④機械学習の基礎知識

教師あり学習と教師なし学習
前処理、特徴量設計、学習と評価
単回帰、重回帰分析、最小二乗法、パーセプトロン、ロジスティック回帰
決定木、ランダムフォレスト、サポートベクトルマシン、K-means
ディープラーニングの実装スキル及び知識
scikit-learn
TensorFlowやKerasなどのフレームワークの知識。
scikit-learnで学習済みモデルを作るまでの流れなど。
1.データの収集とデータの前処理欠損値の補完や外れ値の削除。
2.特徴量の設計(特徴量の選択)
3.モデル開発(モデルの選択と学習)
4.モデル評価・・・交差検定、混合行列で評価など。
⑤SQLを使ってデータベースを操作する知識。
– select、insert、update、delete、where、like、limit、sum、avg、max、group by、having、order by、テーブル結合、ビュー、サブクエリ、caseなどなど。

⓺クラウドの知識
– AWSやGCPやAzureなどのクラウドインフラ回りの知識。

大きく6つもあり以外と多いなと思われたかもしれませんが、一度に全てやるのではなく、まずは①と④の2つに絞ることをお勧めします。
理由は、実際にプログラムを書き、目に見える形にすることで継続して学びやすくなるからです。
はじめに理論から入ると独学だと挫折してしまうので。

人工知能を独学で勉強するオススメの方法
必要な知識は前の節で紹介しましたが、どのようにそれらを学べば良いのでしょうか。
①から⑥を学ぶ上で、以下のような順で知識を身につけていくことをお勧めしています。

フェーズ1 pythonによる機械学習プログラミングと人工知能概論を学ぶ。
フェーズ2 機械学習プログラミング。
フェーズ3 Kaggleに挑戦。
フェーズ4 SQL、スクレイピング、クラウドなどの技術も身につける。
フェーズ5 機械学習スキルを活用してプロダクト制作をする。
フェーズ6 教える(多分これはしないと思う)。

このフェーズごとに学んでいくことがもっとも自分自身に負荷をかけず、楽しく学ぶことができると考えています。

フェーズ1ではプログラミング初学者の方を指しております。
もし、プログラミングを初めてという方は是非フェーズ1から目を通してください。

フェーズ2では実際にフェーズ1で学んだ内容をベースに、機械学習プログラミングに関する勉強方法を説明して参ります。
既にscikit-learnを使った機械学習プログラミングを行なっている方は飛ばして頂いても構いません。

フェーズ3ではKaggleといったコンペティションを通じて実践的なプログラミングを学ぶ方法を記述しています。(これもしないと思います)

フェーズ4 機械学習をやる上で、データベースからデータを取り出すことは頻繁に行われますので、SQLの知識は必須です。ここでは、SQLの他にスクレイピング(データ収集用)、クラウドなどの技術の身につけ方を紹介します。(まずはAccessから)

フェーズ5 機械学習スキルを活用してプロダクト制作に取り掛かりましょう。このレベルまで到達した方は、プロダクトを通じて学ぶことが多いです。

フェーズ6 人に教えることで自分の分かっていなかったことが明確になることがあります。なので、友人などに機械学習を教えて自分の理解を深めることもよいでしょう。

以降、6つのフェーズごとに、どのようにこれらに取り組めば良いのか、お勧めの書籍などを紹介しながら説明していきます。

# 開発環境構築

1. PCにIpython、Python、Atom設定
・AtomではPython単体でデバッグ
・WSLとemacsでWebの練習問題をコピペで開発
・WEBのTopページをデザインおよび開発
・Topページ(index.html)の下でdemo.py demo.html demo.css demo.jsを開発
・各demoxx.pyデザイン、demoxx.htmlデザイン、代表.cssデザイン
・モジュール名を標準化
・モジュール一覧表を作成

2. Git、GitHub設定ー協力者選定
・GitHubを勉強(バインダーのもの)

3. ドキュメント計画策定
・モジュール一覧表を作成
・Pythonプログラム・ジャーナル整理
・HTMLジャーナル整理
・JSプログラム・ジャーナル整理

4. 開発計画

1. Python習得計画
2. 実機練習
3. Pythonプログラミング(コマンドプロンプトとWSL上で)
4. デバッグ
5. モデル構築
6. Ipytonデバッグ(WSL上でJupyternotebook)それをAtom環境下で開発(numpy,pandasの習得)

PCにIpython、Pyton、Atom設定

– Toshiba dynabook Satellite B554/K 使用
– ドキュメンテーション
– 開発環境下でテスト
– 逐一ブログアップ

# Git、GitHub設定ー協力者選定

– GiTHub学習
– 協力者要請

# ドキュメント計画策定

– 5ヶ年計画
– 1年間のスケジュール
– 3年間のスケジュール
– 最終計画

# 読書計画

– Qiita掲載中のドキュメント精読(仕掛中)
– オブジェクト指向で何故作るのか(購入済み)
– 新しいLinuxの教科書(購入済みー実機で参照したのち熟読)
– みんなのPython(購入済みー仕掛中、早めに)
– 日経Linux(購入)
– ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装(購入済みー熟読)
– Access学習(住所録作成・MySQL Queryを中心に学習)
– Qiitaでコピペしたドキュメント勉強(仕掛中)
– (プログラミング(Python)、統計的機械学習、深層学習(Deep Learning)、機械学習のための数学、確率・統計)
– やさしく学ぶ 機械学習を理解するための数学のきほん
– Ipython Interactive Computing and Visualization Cookbook(購入済みー最後に)
– その他

↑人気ブログランキングに参加しています。よろしければ1票を!

loginをFlask下で作ってみた

ワークエリアに代入しないで2次元ディクショナリを直接参照できれば良いのだが!→解決、後日修正してここに掲載する予定である。2018/12/17完成。

loginをFlask下で作ってみた

loginの完成形が下記のリンク先でupした参照してほしい。
neverjpのぶらり日記

loginをFlask下で作ってみた。Qiitaに載っていた問題を自分なりに作ってみた。
2次元ディクショナリをPythonプログラムの中に作りidとpasswordをADRに入力しid,passwordとも一致したら画面に「success」と表示する。失敗したら「fail」と表示する。
2次元ディクショナリのキーワードの参照の仕方がわからなかったので一度ワークエリアに代入した。
問題は2番目の要素以外に「success」が表示されないで「fail」になってしまうことだ。
ワークエリアに代入しないで2次元ディクショナリを直接参照できれば良いのだが!後日修正してここに掲載する予定である。
「work_data」の代わりに「user_data[i][“id”]」にしたが結果は同じであった。結果は表示しない。
※ programの初歩的ミスで済みません。完成しました。
過去にも一度画面にCSSの属性が表示されるとそれ以降CSSを変えても元のままになってしまう現象があった。
「http://localhost:5000/login?id=hoge&pass=foo」と入力するわけである。
課題では「url_for」も使ってみよとあったが「demo18.py」にてやってみたがまだうまくいっていない。

↑人気ブログランキングに参加しています。よろしければ1票を!

demo07の別解

関数のそのものをintにしたりstrにしたりすることにより実現しました。

demo07の別解

前の回の正解を表記します。
関数のそのものをintにしたりstrにしたりすることにより実現しました。

↑人気ブログランキングに参加しています。よろしければ1票を!

二番煎じ

前回の二番煎じ。我慢してください。

二番煎じ

前の回のプログラムの焼き直し

今回は”/?age=xx”と入力

画面に「Your age is xx」と表示されるだけ。

Linux/WSLコンソールがショートカットキーによるコピペに対応 ~Windows 10 RS5
上のリンクはWSLとWindows10の間でコピペができるというものです。要参照のこと!

emacsで編集、前回の二番煎じ。我慢してください。

モジュール管理表

↑人気ブログランキングに参加しています。よろしければ1票を!

Chrome上のサンプルプログラムをFlaskフレームワークに囲い込む

Windows上のデータ(例えばブラウザ上のサンプルプログラム等)をWSL上の環境のFlaskフレームワークで動作させたい場合、諸画面の操作で行える。

Chrome上のサンプルプログラムをFlaskフレームワークに囲い込む

Windows上のデータ(例えばブラウザ上のサンプルプログラム等)をWSL上の環境のFlaskフレームワークで動作させたい場合、諸画面の操作で行える。

 

画面1

TerapadでChrome上のサンプルプログラムをコピペする。

画面2

USBメモリーにコピペする。

画面3

WSL上でUSBをマウントする。

◎:USBをマウントする

①:USBからカレントディレクトリにモジュールをコピーする

②:Shift_JISのファイルをUTF-8に変換する

③:緑のShift_JISファイル

④:白のUTF-8に変換されたファイル

画面4

emacs上で表示した。

画面5(結果が画面上に表示される)

ADRフィールドにhttp://localhost:5000/?who=岡田次郎<Enter>を入力する。

 

画面1

画面2[/caption]
画面3

画面4

画面5

↑人気ブログランキングに参加しています。よろしければ1票を!

Flaskを使ったデモの実施

Flask下で開発する各モジュールをPythonプログラム、HTML、CSS、JSでもってデモンストレーションしてみる。

Flaskを使ったデモの実施

Flask下で開発する各モジュールをPythonプログラム、HTML、CSS、JSでもってデモンストレーションしてみる。「Qiita」の記事を参照しながら最初はvimで直前ではemacsで開発した。数学のライブラリが必要な場合はCommand PromptからAtomで開発し通常のPythonはUbuntuの端末でということになる。後で整合性の観点で問題にならなければよいが。MySQL用にAccessを並行して進めているがまだ手についていない。以下短いデモプロで実施した手順を端末の画面などで説明する。

① Demo02.pyを実行(Ubuntu端末で)
② Demo02.pyで呼び出されたJSのmain.js内でalertがダイアログを表示、OKをクリックするとDemo02.py内で引数「多和田投手」が渡されdemo02.htmlの行が表示される。この時style.cssで定義された赤い文字で表示さてバックグラウンドの水色も表示される。またdemo02.htmlで合わせて定義された写真も表示される。
③ Ubuntu画面でdemo02が走った。
④ 実行を止めるにはCtrl + Cで行う。
⑤ 実行が停止された。
⑥ Demo02.htmlをdemo03.htmlとし新たにemacsでそれを編集する。
⑦ EmacsでC-zで一時的に抜ける。そしてUbuntu内でlsコマンドを実施。
⑧ 作業が終わったので「fg」コマンドでemacsに戻る。
⑨ Emacsの作業中のdemo03.htmlが表示される。

この一連の作業で今後開発を進める。

以上

↑人気ブログランキングに参加しています。よろしければ1票を!

PythonのFlaskで学ぶ〜プログラムの再利用・ルーティング〜

仕様かバグかわからないが、CSSモジュール名が「style.css」でないとバックグラウンドの色指定ができない。

PythonのFlaskで学ぶ〜プログラムの再利用・ルーティング〜

今、下のリンクを参照しながらFlaskフレームワークを勉強している。
仕様かバグかわからないが、CSSモジュール名が「style.css」でないとバックグラウンドの色指定ができない。
リンクの記事は後程読んでDEMOプログラムを開発しようと思う。
2番煎じだが今回は勘弁してほしい。
PythonのFlaskで学ぶWebアプリケーション制作講座 第3章 〜プログラムの再利用・ルーティング〜

↑人気ブログランキングに参加しています。よろしければ1票を!

昨日のデモで使ったソースデータ

WordPressの都合上インデントは無視します。代わりに「neverjpのぶらり日記」(2018/12/6付け)を参照してください。

============================
demo01.html(/flask/templates
============================
<!DOCTYPE html>
<html lang=”ja”>
<head>
<meta charset=”UTF-8″>
<link rel=”stylesheet” href=”/static/css/demo01.css”>
<title>Deep Learning first TEST</title>
</head>
<body>
<title>Hello from Flask</title>
{% if name %}
<h1>{{ name }}さん!テンプレートからのHello Worldだよ!</h1>
{% else %}
<h1>テンプレートからのHello Worldだよ!</h1>
{% endif %}

<p>
<img src=”/static/images/0umi1.jpg” alt=”pic01″>
</p>

<script src=”/static/js/main.js”></script>
</body>
</html>
======================
demo01.py(/flask)
======================
from flask import Flask, render_template
app = Flask(__name__)

@app.route(‘/’)
def demo01():
html = render_template(‘demo01.html’, name = ‘児島’)
return html

#デバッグモードで走らせる
if __name__ == “__main__”:
app.run(debug=True)
============================
demo01.css(/flask/static/css
============================
.demo01 {
color: #f00;
}
=========================
main.js(/flask/static/js)
=========================
(function(){
‘use strict’;

alert(‘アラートだよ〜。’);

})();
==============================
挿入写真(/flask/static/images)
==============================
<img src=”/static/images/0umi1.jpg” alt=”pic01″>

WSLでFlaskを走らせる

WSLでFlaskが使えるかテストしてみた。問題なく動いたが注意したい難点かある。以下箇条書きにしたので参照願いたい。約2日間でデモぐらいまでに至った。

WSLでFlaskを走らせる

WSLでFlaskが使えるかテストしてみた。問題なく動いたが注意したい難点かある。以下箇条書きにしたので参照願いたい。約2日間でデモぐらいまでに至った。

① 前提としてWSLにPython3,Pip3,Flask,nkf,Vimがインストールされているものとする
② Python2は全角文字が使えないから注意が必要
③ Flaskはlocalhost上でHTML、CSS、Python、JSが連携して動く
④ Windows上でエディター(秀丸、TeraPadなど)を使って編集しその後USBメモリーに落としたものをWSL上に転送しnkfを使ってShift-JISをUTF-8に変換する
⑤ ソースの修正はWSL上でVimを使って行う
⑥ ディレクトリ構造はflaskをルートにtemplates,staticその下にcss,js,imagesを配置する
⑦ flaskフォルダーには.pyモジュールを置きtemplatesフォルダーには.htmlファイル、cssフォルダーには.cssモジュール、jsフォルダーには.jsモジュール、imagesフォルダーには.jpg、.gif、.pngなどのモジュールを入れる
⑧ ④マウントの仕方
$ sudo mount -t drvfs f: /mnt/usb/
fドライブにUSBメモリーをマウントする
$ cp -r /mnt/usb/demo01.* ./
USBメモリーのdemo01と付いたモジュールをWSLのカレントディレクトリに転送する
$ cp -r /mnt/usb/main.js ./
USBメモリーのmain.jsをカレントディレクトリに転送する
$ mv main.js static/js/
カレントディレクトリ上のmain.jsモジュールをstatic/jsフォルダーに転送する
⑨ Shift-JISのモジュールをUTF-8にコード変換する(WSL上で)
$ nkf -w < demo01.py > demo01utf.py
変換後demo01.pyにリネームしておく
⑩ demo01の実行の仕方
~/flask$ python3 demo01.py

「pythonのフレームワークのflaskを触ってみた。」を参照させていただきました。

pythonのフレームワークのflaskを触ってみた。

次の写真をはっきり見るにはneverjpのぶらり日記へ

JSアラート


↑人気ブログランキングに参加しています。よろしければ1票を!

ApacheとNginx(エンジンエックス)、どちらを使うべき?

負荷が高い場合や静的ページに同時アクセスされることが多い場合はNginx(エンジンエックス)を使うと良いでしょう。

ApacheとNginx(エンジンエックス)、どちらを使うべき? ApacheとNginxについて、どちらもシェアが高く信頼できるWebサーバーであることは間違いありません。 それでは結局のところ、どちらを使うべきなのでしょうか。 負荷が高い場合や静的ページに同時アクセスされることが多い場合はNginxを使うと良いでしょう。 反対に、負荷が高くなく同時アクセスが少ない場合や早期セットアップが必要な場合はApacheが良いでしょう。 Nginxは処理が早く、消費メモリが少ないという良い事ずくめですが、1つの処理が長すぎるとシステムコールキューにリクエストがたまってしまいパフォーマンスが低下してしまいます。 その為、動的処理や動画コンテンツの配信やデータベース処理等の重い処理をする場合にはApcheが良いとされています。 Nginxについてあとがき: NginxはApacheに引けを取らない、とてもパワフルなWebサーバーです。日本語での情報も増えてきましたし、開発にかかる工数も少ない部類に入ります。 インストールも難しくないので、気になった方はまずはダウンロードして使ってみてはいかがでしょうか?

いま話題のWebサーバー「Nginx」とは?

を参照させていただきました。

スキルセットのFlaskとは?

【Python】フレームワークFlaskの基本をマスター

を参照させていただきました。

↑人気ブログランキングに参加しています。よろしければ1票を!