「浮動小数点数」に関連した動画の一覧 |
 | 基本情報技術者試験ワンポイント講座「浮動小数点数って何？」 全部無料のe-Learning アイプラスが提供する、情報処理技術者試験講座の中から、「浮動小数点数表記」についてご紹介します。 当サイトでは、ITパスポート対策のビデオ講義と練習問題を、無料で配信しています。ぜひご利用ください。 els.ai-plus.com 2011年08月12日再生回数 1423 |
 | ADSP-21369 32bit/40bit浮動小数点DSPのSHARCファミリー Super Harvard ARchtecture を採用したDSPコアを持ち、さらに一つの命令で2つの独立したレジスタデータを扱うことができるSIMDをサポートしております。SIMDアーキテクチャと複数の演算ユニットを持つコアは400MHz動作時で2.4GFLOPSという高い浮動小数点演算能力を有します。 2011年11月22日再生回数 51 |
 | 業界初 10GHz 固定小数点/浮動小数点 DSP 業界最高性能の固定小数点と浮動小数点の両演算機能を内蔵するマルチコア DSP である TI の新しい C667x ファミリをご紹介いたします。 2011年01月07日再生回数 64 |
 | 低コスト リアルタイム浮動小数点搭載マイコン TI の新規Piccolo F2806xマイコンのご紹介をいたします。低コストのPiccoloと浮動小数点Delfinoのラインをつないだ次期レベルの製品です。 2012年02月13日再生回数 7 |
 | 和歌山弁でExcel講座 小数点以下端数処理 2010年08月05日再生回数 371 |
 | Hologram Display ホログラムテレビ開発中？ MIT museum イツSeeReal Technologies社は2007年10月、3Dホログラフィ技術を使った20型3Dディスプレイを試作し、日本でデモを行った（図1）。試作機では使用した液晶パネルの応答速度が50msと遅く単色表示となったが、同社のCEO（最高経営責任者）を務めるMark Thorsen氏は「これから、液晶パネルメーカーなどと協力して応答速度の速いパネルの開発を進め、早ければ2009年末には3D液晶テレビの商品化に結び付けたい」と語った。 ホログラフィ技術自体は60年前から存在する。しかし、リアルタイムのホログラフィは作れなかった。その理由は大きく2つある。まず、リアルタイムホログラフィを実現しようとすると、必要な視野角を得るために画素ピッチが0.6μmの高解像度のディスプレイが必要となる。もう1つは、これらすべての画素についてホログラムの干渉縞を計算するのにはスーパーコンピュータ並みの演算能力が必要となることだ。一例だが、マサチューセッツ工科大学が開発した 10cm角の液晶パネル向けのホログラムでも、非リアルタイムでの計算に、40ペタFLOPS（FLOPSは1秒間に浮動小数点演算を処理できる回数）の演算能力を持つコンピュータで数時間を要したという。 同社はこれらの課題を解決するため、主に2つの技術を開発した。1つはビューウィンドウの作成とその追跡技術である。ビューウィンドウは人間の目に見える（届く）部分（角度）の映像データのみを処理して表示する。それ以外の目に入らない無駄な映像データは処理しない。また、ディスプレイを見ている人の目の位置を、ディスプレイ側に取り付けられたカメラで検出してその動きを追跡する。これによって、人が動いてディスプレイを見る角度が変わった場合でも、ビューウィンドウの位置を移動させ、必要な映像データのみを抽出して表示すること ... 2008年02月26日再生回数 9094 |
 | Xperia arc SO-01C 痛恨のバグ プログラマがやらかしましたね... 正確な値が要求される計算にfloat,double型は使えない！ということです。 floatやdoubleといった型はコンピュータの中では2進数の浮動小数点で表現されています。そのため、0.1のようにどうしても2のべき乗では表せない（無限級数になってしまい、桁数が無限に必要）数値が多く存在します。 10進: 0.1 ⇔ 2進: 0.00011... そのため、このような数値を用いて計算を行うと誤差が発生します。 System.out.println(1.00-9*.10); 普通の感覚では0.10という答えを期待しますが、実際に出力される値は0.09999999999999998です。 しかし、Effective Javaでは0.09999999999999995が出力されると書かれています。おそらく、これは本が間違えているのではなく、実行環境の差異からきているものと思われます。 このように、float型やdouble型は誤差を含む可能性があるため、科学・工学計算で多少の誤差は許容できる場合はよいのですが、金融・会計分野のように正確な値が要求される計算には向きません。 どうしても正確な値が欲しい場合は、BigDecimalクラスを使用することになります。基本データ型のdoubleやfloatと比較すると不便かつ低速ですが、精度が保証されており、丸め方も指定できます。 同じような現象は小数の計算で起こりやすいです。 2011年03月30日再生回数 6836 |
 | hologram ホログラムコンピューター？？ hologram can represent 3D data. www.ednjapan.com ドイツSeeReal Technologies社は2007年10月、3Dホログラフィ技術を使った20型3Dディスプレイを試作し、日本でデモを行った（図1）。試作機では使用した液晶パネルの応答速度が50msと遅く単色表示となったが、同社のCEO（最高経営責任者）を務めるMark Thorsen氏は「これから、液晶パネルメーカーなどと協力して応答速度の速いパネルの開発を進め、早ければ2009年末には3D液晶テレビの商品化に結び付けたい」と語った。 ホログラフィ技術自体は60年前から存在する。しかし、リアルタイムのホログラフィは作れなかった。その理由は大きく2つある。まず、リアルタイムホログラフィを実現しようとすると、必要な視野角を得るために画素ピッチが0.6μmの高解像度のディスプレイが必要となる。もう1つは、これらすべての画素についてホログラムの干渉縞を計算するのにはスーパーコンピュータ並みの演算能力が必要となることだ。一例だが、マサチューセッツ工科大学が開発した 10cm角の液晶パネル向けのホログラムでも、非リアルタイムでの計算に、40ペタFLOPS（FLOPSは1秒間に浮動小数点演算を処理できる回数）の演算能力を持つコンピュータで数時間を要したという。 同社はこれらの課題を解決するため、主に2つの技術を開発した。1つはビューウィンドウの作成とその追跡技術である。ビューウィンドウは人間の目に見える（届く）部分（角度）の映像データのみを処理して表示する。それ以外の目に入らない無駄な映像データは処理しない。また、ディスプレイを見ている人の目の位置を、ディスプレイ側に取り付けられたカメラで検出してその動きを追跡する。これによって、人が動いてディスプレイを見る角度が変わった場合でも、ビューウィンドウの位置を移動させ ... 2008年02月26日再生回数 7218 |
 | Polar社心拍センサ受信モジュールのデータをPIC24＋LCM240YP04-07で表示テスト2 前回に続き、LCM240YP04-07用に大きな数字フォントと浮動小数点実数表示関数を作成したので、デモ表示テストを交えてPolar社心拍センサ受信モジュールから取得したデータをstrtok関数でデリミタごとに分離し最後の心拍数を大きな数字フォントで表示させてみた。 2011年08月08日再生回数 82 |
 | CWCHEAT DATABASEMOD 20110813 cwcwikiでのコード取り込みを追加、2CHはちと面倒マウスが録画されてなかったので追加 2011年08月15日再生回数 448 |
