St_Hakky’s blog

Data Science / Human Resources / Web Applicationについて書きます

2020-04-01から1ヶ月間の記事一覧

【Python】Apache Beamを使ってデータパイプラインを実装してみる

こんにちは。先日、Apache Beamに関する概要の記事を書きました。www.st-hakky-blog.com今回は、Apache Beam SDKのうち、Pythonを使って、実際にデータパイプラインを実装してみようと思います*1。 今回のお題 今回は、Apache Beamの公式のドキュメントをベ…

Apache Beamとは

こんにちは。最近、社内のデータパイプラインの再設計をしておりまして、その中でGCPのDataflowを使う話が出てきました。その中で、Apache Beamの内容について勉強する必要があったので、それについてまとめます*1 Apache Beamとは 公式サイト 本家のサイト…

【Redis】Redashがredisのメモリ不足で落ちた

こんにちは。 Redashが吐き出したエラー 会社でRedashを使っているのですが、こいつがクエリを叩くたびに以下のようなエラーを出すようになりました。 Error running query: failed communicating with server. Please check your Internet connection and t…

【Scala】sbtenvでsbtをインストールする

こんにちは。最近、社内でScalaを使っていくことになりまして、勉強し始めました。 sbtenv Githubのページはこちら。github.com インストール 基本的には、Githubから落としてきて、そのままPATHの指定をやるだけ(私は、zshを使っているので)。 $ git clone …