Lý thuyết thông tin

khái niệm cơ bản của lý thuyết được giới thiệu trong bốn mươi của thế kỷ XX, Shannon. lý thuyết thông tin - khoa học của quá trình chuyển giao, lưu trữ và lấy dữ liệu trong các hệ thống tự nhiên, kỹ thuật và xã hội. Trong nhiều ứng dụng của lĩnh vực khoa học như khoa học máy tính, ngôn ngữ học, mật mã, lý thuyết điều khiển, xử lý hình ảnh, di truyền học, tâm lý học, kinh tế, tổ chức các phương pháp sản xuất được sử dụng khoa học này.

Trong điều kiện hiện đại với lý thuyết thông tin liên kết rất chặt chẽ với một lý thuyết mã hóa, thảo luận về những vấn đề phổ biến nhất về sự phù hợp giữa một tín hiệu và một tin nhắn, và lý thuyết về xử lý tín hiệu, trong đó lượng tử nghiên cứu và các tín hiệu phục hồi và quang phổ và phân tích mối tương quan đó.

Lý thuyết thông tin cho rằng các khái niệm cơ bản của "thông tin" cho hầu hết các phần về số lượng, mà không tính đến giá trị của nó, và đôi khi vô nghĩa. Trong phương pháp này, một trang văn bản sẽ chứa khoảng cùng một lượng dữ liệu xác định bởi một số dấu hiệu và biểu tượng, và không phụ thuộc vào thực tế là, nói đúng, có được in, thậm chí nếu nó là hoàn toàn bộ vô nghĩa và hỗn loạn của một số biểu tượng.

Cách tiếp cận này là hợp lý, nhưng chỉ cho mô phỏng các hệ thống thông tin liên lạc, kể từ khi họ có để truyền tải một cách chính xác thông tin về các kênh truyền thông, trong đó có thể là bất kỳ bộ ký tự và biểu tượng. Sau đó, khi nó là cần thiết để đưa vào tài khoản giá trị và ý nghĩa của dữ liệu, phương pháp định lượng là không thể chấp nhận. Những trường hợp áp đặt những hạn chế đáng kể đối với các lĩnh vực ứng dụng có thể có của lý thuyết này.

Nguyên tắc cơ bản của lý thuyết thông tin liên quan đến việc xem xét các vấn đề khác nhau, trong đó có liên quan trực tiếp đến việc truyền và nhận dữ liệu. Đề án thông tin liên lạc chính, được xem xét trong giảng dạy là như sau. Lý thuyết thông tin và mã hóa Ông cho rằng đây là những nguồn gốc của bài viết, mà là một từ hoặc tập hợp từ viết chữ nào đó của bảng chữ cái. Nguồn gốc của thông điệp có thể là văn bản đến bất kỳ tự nhiên hoặc ngôn ngữ nhân tạo, ngôn ngữ loài người, cơ sở dữ liệu và một số mô hình toán học, tạo ra một chuỗi các chữ cái. Máy phát chuyển thông điệp thành một tín hiệu tương ứng với tính chất vật lý của các kênh truyền thông - vừa để truyền tín hiệu. Trong thời gian qua như vậy nó là tùy thuộc vào sự can thiệp, mà giới thiệu biến dạng trong giá trị của các thông số thông tin. Các máy thu hồi thông báo ban đầu từ các tín hiệu méo nhận. Tin nhắn trong một hình thức giảm đi đến đích - một người nào đó hoặc một thiết bị kỹ thuật.

nguồn thông điệp là thống kê trong tự nhiên, ví dụ: sự xuất hiện của mỗi thông điệp được xác định bởi một xác suất nhất định. Lý thuyết thông tin của Shannon tin rằng nếu xác suất của thông điệp bằng sự đoàn kết, có nghĩa là, sự xuất hiện của mình đáng kể và không chắc chắn không tin rằng nó không mang theo bất kỳ thông tin.

Một trong những vấn đề quan trọng của lý thuyết thông tin cho rằng sự phối hợp của các kênh truyền thông và thông tin thuộc tính của nguồn tin. Băng thông được xác định bởi các đơn vị trong tổng số 1 bit cho mỗi thứ hai.

Một vấn đề với hệ thống thông tin liên lạc là sự can thiệp vào đường dẫn tín hiệu mong muốn. Shannon, không may, không cho chúng ta những phương pháp cụ thể để đối phó với những. Phương pháp loại bỏ dễ dàng nhất đó là lặp đi lặp lại nhiều thông điệp thời gian được tính không phải là rất hiệu quả vì phải mất nhiều chi phí thời gian cho việc truyền tải thông tin. Nhiều hiệu quả cao hơn cho phép việc sử dụng các mã cho phép bạn phát hiện và sửa lỗi của truyền dữ liệu.